Puntini sull'AI - IA e Migrazioni: Le Nuove Frontiere dell'Automazione

Avete mai pensato a come un algoritmo possa decidere del nostro futuro oggi l'intelligenza artificiale sta trasformando radicalmente il modo in cui gestiamo i confini con conseguenze profonde per milioni di persone in movimento
Le scansioni facciali e sistemi predittivi la tecnologia sta plasmando il nostro rapporto con la migrazione sollevando interrogativi cruciali sulla privacy la sicurezza e i diritti umani
Immaginate di arrivare a un confine e di essere sottoposti a un'analisi algoritmi Ca'che decide se potete entrare o meno in un paese questa è la realtà del molti migranti oggi e in questa puntata esporremo come l'intelligenza artificiale sta ridefinendo i confini trasformandoli in laboratori di sperimentazione tecnologica
Ciao io sono Marco Ceronetti vi do il benvenuto a una nuova puntata di puntini sulla i la rubrica di radio radicale che esplora il mondo dell'intelligenza artificiale un punto alla volta
Per comprendere meglio il rapporto tra intelligenza artificiale automazione i emigrazioni ho il piacere di avere in collegamento il professor Fabio chiusi
Giornalista ricercatore e docente universitario presso l'Università di San Marino per i corsi di giornalismo nuovi media ed editoria ai media digitali
Il professor chiusi collabora con la ONG algoritmo gocce per cui ha diretto Progetti come automi Things usati due mila venti Fresi indizio dei SerT
E più recentemente ha collaborato al progetto di ricerca otto Michonne Dindo Bugo sul rapporto automazione i che ai immigrazioni
Fabio chiusi anche autore di numerosi saggi che esplorano il rapporto tra tecnologie digitali Democrazia e cultura innanzitutto grazie al professor chiusi per la sua partecipazione al suo contributo
Se vogliono invito un primo puntino sulla i che vorrei affrontare con lei legato a un inquadramento un po'più tecnologico per introdurre un po'i nostri ascoltatori all'argomento quindi vorrei chiedere sostanzialmente se queste tecnologie automatizzate che sono già ampiamente utilizzate per la gestione dei flussi
Migratori
Come si configurano oggi da un punto di vista tecnologico cioè quali sono gli sviluppi che stanno avendo questo tipo di gli strumenti come non so droni o sistemi di sorveglianza biometrica
E quali sviluppi futuri possiamo lancia un po'intravedere all'orizzonte si grazie dell'invito il la domanda e capire che cosa non c'è realtà che se podio davvero di tutto
Io mi sono ciò noi qui ad Hanoi e Washington centriamo più sul lato europeo
Però naturalmente
Io informandomi cerco di a giornalmente sulla tua extraeuropeo quindi quello che succede in alcuni Paesi africani colori succede ai confini con gli Stati Uniti naturalmente confini canadesi in Cina per quello che ci possano e via dicendo quindi diciamo che c'è una un push globale verso l'automatizzazione dei confini è questa la prima cosa da dire questo serializzati in molti modi disperdendo il concetto di confine quindi cominciato controllare prima e le persone partano incominciando a fare analisi del rischio algoritmi che Atta decidere se una persona merita o non merita di entrare in questo o quel Paese naturalmente non c'è rischioso
Che tipo di di rischio rappresenta quindici è tutta un'architettura infrastruttura digitale che sta venendo sparsa che non ornavano europea
Per collezionare un po'raccogliere i dati biometrici avremo le immagini facciale da showman per entrare in Europa fondamentalmente in molti casi
Molti altri tipi di dati che verranno in in che immediatamente diciamo messe resi interoperabili questa è la visione se non altro da molti anni ormai che sia ritarda mangiava abbia visione di lungo termine medio lungo termine a questa di avere del dell'analisi diciamo dei prescrivibili questo tipo algoritmi loghi facciano rendere diciamo ai il questa un po'il punto che rendano un po'la alla procedura di da attraversare un confine o di viaggiare fuori dal proprio Paese molto semplice addirittura annunciate da loro dicono fashion l'assemblea si usano questi termini Dada Silicon Valley non per dire cioè
Tu usi la Lotus è la tua faccia entra la rapporto col tuo volto passi attraverso non devi fare controlli onde farne perché fondamentalmente sappiamo talmente tanto già da tanti da talmente tanto
Che non abbiamo neanche bisogno di controllare cosa c'è nella Marisa ti sei o cosa o quanto che rischio rappresenta lo sappiamo già
Per gli altri che invece vengono sospettati naturalmente si prospetta all'inferno digitale di fatto quindi tu da una serie di incroci di database date che vengono in cui incrociati con le forze dell'ordine
Se può invece uno vuole viaggiare diciamo a muoversi illegalmente o in maniera irregolare per così dire fuori dalle dai canali legali naturalmente lì si trovano di fronte struttura di sorveglianza che sono derivazione militare fondamentalmente quindi stole di sorveglianza mobili
Drone che vanno in suolo USA quindi sempre più diciamo coordinati tra di loro per terra aria cielo le sue scuse e mare sotto mare sottomarini
C'è un ci ha veramente un po'di tutte e tre rose di di realtà aumentata per visualizzare le stazioni dell'invasione dell'invasore no in tempo reale in tre D sovrapporlo alla realtà scenari da Black Mirror cose di questo tipo quindi
Algoritmi di MC cinque ci sono non solo naturalmente cose discoteche ci sono anche cose che cercano di capire se un migrante ha più o meno probabilità di essere integrato in questo o quel contesto culturale lavorativo
No e via dicendo sono algoritmi di di merci in di varie di vario tipo sono gorilla solamente predittivi che cercano di capire anche i flussi d'ingresso
Che si produrranno naturalmente non possono predire catastrofi naturali non possono predire conflitti no via dicendo quindi sono tutti strumenti
Limitate se si vuole ma insomma facendo analisi di varie cose si riesce ad arrivare a questi tipi di di tradizioni che servono un po'anche per rispondere a a preparare una risposta naturalmente anche qui i rischi sono dietro l'angolo alcune dicono di poter predire no nel quale siano fattori di scontro sociale
E via dicendo quindi sono tutte cose che sono sempre al limite diciamo tra il militare e civile al limite tra al sicuri tale io forze dell'ordine ci e civile di nuovo quindi e soprattutto al limite con
L'avere a che fare con persone vulnerabili molto spesso no quindi
Quindi devo cioè c'è questo armamentario quasi panottico se si vuole che rivela una visione
Preoccupante della vicenda cioè l'idea che questa l'idea fondamentale e cioè che Illy dal mille mediazioni c'è un problema di informazione e di comunicazione di tecnologia fondamentalmente descritti
Che vadano risolti con soluzioni tecnologiche di fatto che in questo modo si possano risolvere perfettamente proponendo allo stesso tempo sicurezza assoluta e viaggi a tempo zero senza code senza atteso senza controlli Peri
Per i desiderabili mettiamola così non non specifichiamo in questo momento mentre per indesiderabile vale tutto il contrario una mentalmente si possono violare
Naturalmente non si non viene scritto e detto ma si possono di fatto violare i diritti di queste persone su base quotidiana anche naturalmente con tecnologie che lo fanno in maniera sempre più efficiente quindi discriminazione automatica in tutti e due i sensi nel bene
Per il desiderabili nel male per indesiderabile
Voi di recente anche con appunto il team di ricerca di algoritmo watcher avete studiato molto in profondità questo tipo di aspetti
E su questo detto spostandoci dal versante diciamo più legato a come vengono utilizzati e la panoramica che ci ha fornito è davvero molto ampia
Quali sono andando un po'più nel dettaglio gli impatti concreti che questi sistemi hanno sulla vita delle persone cioè quali sono anche un po'l'ittrio occupazioni più urgenti da un punto di vista dei diritti fondamentali dei diritti umani ma anche legati a quelli della privacy e della libertà di movimento
Ad essere molto complicata perché gli impatti sono naturalmente molto diverso sulla vita delle persone
Un un richiedente asilo che entra in Germania a per esempio il se viene da certi Paesi suo dialetto viene analizzato tramite un sistema di intelligenza artificiale che efficiente nel nel settanta ottanta per cento dei casi nei restanti no
Per cui agli alcuni altri Paesi ben queste cose questi strumenti non utilizzati per verifica
Mettere diciamo fare confronti tralicci richieste di asilo analoghe per verificare documenti se sono veri o falsi o artefatti
Addirittura in certi casi cioè di prosa filone europea che abbiamo studiato di ricerca usano il vorrebbero usare riconoscimento emotivo e facciale
De Niro espressioni facciali per decidere se un richiedente asilo dice il vero o il falso e naturalmente questo lo farebbe un avatar le domande
Secondo questi progetti un avatar virtuale che ti interroga dopo di che questi cosa avevano scrutato da algoritmo e capisce dalla riconoscimento facciale motivo diciamo
La semikhah espressioni facciali sono dice il vero falso quindi c'è ci sono dei rischi che sono attinenti alla più bar basilare decenza umana sa di non trasformare le persone i numeri o serie di numeri da darvi da smistare come vuoi all'interno di strutture di deportazione che ricordano i campi di concentramento e via dicendo no
E c'è una basilare del senso ma dopo di che da un punto di vista tecnologico che è la realizzazione di questi progetti indecenti se volete
Dal punto di vista tecnologico li si può fare molto perché molto sta venendo costruito è molto è ancora
Ai diciamo non c'è molto c'è
Ma molto altro ci vorrebbe fare e di nuovo il punto è quando c'era un c'è un punto in cui abbiamo abbastanza sicurezza e protezione da questa minaccia del migrante
Di questo altro costruito in maniera ideologica e propagandistica mediatica con le minacce Collodi o con la paura no c'è una fine c'è un punto in cui una democrazia una struttura democratica come l'Unione europea no dice sia stiamo sorvegliando abbastanza a me non sembra questo il punto cioè la logica mi sembra quella del di un'agenzia di Intelligence che vuole
Tutto e poi su quel tutto decidere a setacciare diciamo che cosa cioè cosa non c'è questo naturalmente è un problema da un punto di vista della democrazia dei diritti ma è un problema perché il gli effetti sono ambigui Ciaccio anche degli effetti positivi naturalmente no
è uscito da poco un rapporto di due associazioni organizzazioni della società civile ai avrai abborda Burns momento Renato or sono due organizzazioni ciò quali queste cosa molto tempo e hanno studiato un po'come questa tecnologia intelligente impattano la vita delle persone nei centri di detenzione chiamiamole così a Samos in Grecia no
Questi cross controllasse Center che hanno questi due sistemi che sono stati molto controversi oggetto di molte oggetto di comuni di di Casini nelle corti siamo all'imperio esentava fino due strumenti
Uno riconoscimento biometrico per gestire gli ingressi diciamo l'identità all'interno della struttura un altro è un sistema di videosorveglianza
Intelligente cade RIS dei componenti predittiva e che servono da probabilmente in teoria in qualche maniera tenere sotto controllo mantenere lo e Nordahl dentro la struttura detentiva fondamentalmente
In questi è uno dei serbi messa così le persone interpellate avevano avute tutti delle esperienze negative invece no alcune sono contenti che le telecamere ci siano perché documentano anche quello che succede all'interno della struttura no
Voi potete immaginare che una una situazione in un regime autoritario dove non sappiamo dove non c'è nessun tipo di accesso a no a quello che succede nella sorveglianza
Potrebbe essere anche peggio alcuni dicono ma se mi sento più protetto
Altri naturalmente messi riconosciuto dappertutto non sappiamo come fare cioè le mani migliora la mia dignità basilare era o magari vengono costretti a consegnare cellulare a fare
E a dare accesso tutte le formazioni dei loro cellulari che è una cosa che non succede in vari paesi d'Europa nonostante sia stata contro bersagli legale e via dicendo queste cose vengono fatte comunque perché poi alla fine nessuno riesce davvero controllarle purtroppo
E quindi sette questo doppio livello di problematicità la visione problematica c'è molto le applicazioni sono problematiche perché criticare in toto le inteso divisa l'automazione dentro queste cose rischia di tre diciamo impedirci l'utilizzo di alcune cose utili che servono a aiutare queste persone il problema è la è la sproporzione tra i due usi
Cioè l'uso per salvare vite in mare per salvare le le vite in terra il per aiutare diciamo i fili chiusi in progetti umanitari sono di gran lunga inferiori quello che in quelli che abbiamo visto noi insomma
Rispetto al luglio invece sicuri tali di derivazione quasi militare cioè dove si vuole fondamentalmente il controllo la lascio Situation alla guerra siccome la chiamano in gergo totale fondamentalmente questo progetto non è approdato democratico a casa mia
Chiaro
E l'uso quindi sempre più diffuso di questi sistemi nelle frontiere e nei luoghi che ha appena citato
In realtà solleva anche un po'di questioni legate a trasparenza e accountability responsabilità di organizzazioni governative o non a ad esempio Frontex e aziende del settore alla sicurezza hanno un'influenza significativa poi sulle politiche sulle ricerche finanziate nell'Unione europea su questi temi
Mentre la società civile gruppi di migranti spesso rimangono un po'ai margini del processo decisionale
Molti di questi sistemi da quello anche che io ho avuto modo di vedere un po'opera in una zona grigia regolamentare creando una sorta di squilibrio tra le esigenze come diceva di sicurezza e dall'altro i diritti delle persone coinvolte
Su questo vorrei chiederle secondo lei come si può costruire un sistema di cover naso un po'più equilibrato per queste tecnologie l'utilizzo di queste tecnologie
A presso le frontiere e quali meccanismi potrebbero invece garantire maggiore trasparenza di queste decisioni automatizzate
Prima di darle la parola però come in altre puntate abbiamo cercato di fare la stessa domanda anche se abbastanza complessa un modello di intelligenza artificiale in questa puntata l'abbiamo chiesto a un modello francese europea un Mistral
Alle due punto uno che adesso le faccio ascoltare vi faccio ascoltare e poi confrontiamo polle
Le risposte costruire un sistema di governance più equilibrato per le tecnologie di frontiera è cruciale implementare meccanismi che garantiscano trasparenza e coinvolgimento della società civile
Primo introdurre normative chiare che obblighino alla pubblicazione di algoritmi e criteri decisionali Secondo creare comitati consultivi con rappresentanti della società civile e gruppi di migranti per un ruolo attivo nel processo decisionale
Terzo promuovere la partecipazione pubblica attraverso consultazioni aperte e trasparenti
Quarto implementare meccanismi di accountability per identificare i correggere abusi come figure indipendenti per i reclami
Infine investire in educazione per aumentare la consapevolezza delle tecnologie di frontiera in sintesi un sistema di governance equilibrato deve basarsi su trasparenza
Partecipazione e accountability con un ruolo attivo della società civile e dei gruppi di migranti
Come al solito forse estremamente politicamente corretto però lascio a a lei diciamo rispondere a alla domanda
Di nome sempre intese da utilizzare sembra dire tutto quando non dice nulla è una ma ha dato un sacco di definizioni tautologia cioè l'uso vede assunto dal per essere trasparente di Hamas trasparente
Se non ci aiuta molto e non si dice molto di quello che è successo ma è talmente però fa sembrare che sappiamo qualcosa quindi è veramente pericoloso
Dopodiché la risposta secondo me data da da una persona che queste cose prova studiarle bisogna andare oltre le ai è che ha fallito dal punto di vista della negazione vedi per esempio voi potete immaginare che il riconoscimento è motivo di cui parlavo prima
Quello Udrih conosce me Domenico espressione facciale per decidere su meandri richiedente asilo dice il vero o falso è un prosatore un'europea che è stato di ricerca
Non sarà la foga che se non sarà vietata c'è l'ambiente l'applicazione del del riconoscimento emotivo è vietato in altri settori non nell'emigrazione
Viene fatta eccezione presente o no è uno show che dalla per quale ragione perché se avesse investito milanesi affronteranno i per sviluppare le tecnologie volete poterlo usare molto banalmente
Quindi questo è è un primo aspetto ma pensata al fatto che le perfino le tecnologie definite secondo lei atta ad alto rischio
Per le migrazioni va dovrebbero finire dentro a un registro pubblico in teoria che ci dà almeno notizia dell'esistenza dell'utilizzo di queste cose
Nel caso di migrazioni questo è invece privato nel senso che accedono soltanto alcuni hanno alcune istituzioni qualificate Kent che non siamo noi naturalmente ciò la recita civile e non siamo noi intesi come noi cittadini di una democrazia questo naturalmente
è inaccettabile qui c'è tutta una serie di problemi e radicali che sono rimasti all'interno di questa precisazione lei a che te ne perché alcune cose vanno vanno anche bene molte altre purtroppo a casa migrazioni
Non vanno bene e quindi bisogna rendere uscirà capire esattamente quali tecnologie sono usate come perché come funzionano esattamente su quali tecnologie stanno venendo sviluppati cioè se si sono se sono risultato di frutto per esempio di finanziamenti europei quindi dei soldi del cittadino europeo cura vengono comprate all'estero da aziende terzo israeliane piuttosto che i lo sa no e naturalmente dovremmo avere accesso a tutti i documenti che si documentano e si illustrano in maniera di diciamo e rigorosa se i limiti umani effettivamente vengono rispettati come viene detto
E se non è invece soltanto un modo per giustificare di nuovo quella contraddizione no cioè lasciamo l'Europa siamo sistema dei valori
Ma questi valori queste auto Mattia intatti d'azione che che che comoda che confortevole che ci fa viaggiare a tempo zero cento cittadini di tutto un continentale solo per alcuni
Per tutti gli altri tutto questo invece valore deportazione valgono respingimenti legali no valgono le tecnologie Kemp che sorvegliano che violano e via dicendo
Quindi una primo passo secondo me veramente Saro per esempio dotarsi di una legge migliore sull'accesso ai dati da che noi abbiamo avuto esperienze tragicomiche diciamo così
Nell'accesso ai dati sì avremmo avuto a che fare con l'agenzia dalla Commissione europea che ci hanno dato qualcosa sottratti molto gentile ma per legge possono di fatto perdere un sacco di tempo e darci poco e niente questo per farla breve
Servirebbe una legge che non glielo consente su cose così importanti dopodiché se l'eccezione per la sicurezza nazionale
E vale sempre anche questo non va bene e dopodiché avremo bisogno
Di una di dare priorità alla ce alla all'interesse pubblico piuttosto che all'interesse commerciale nella mia esperienza invece purtroppo quando si chiedono dettagli certi sistemi anche molto vaghi
Anche molto invasivi vengono negati perché si dice questo è Proprietà industriale vai a non diciamo a compromettere la commercializzazione di queste tre cose che evidentemente è
Nei piani
No palesemente espressamente tra l'altro nei piani per cui mi l'interesse pubblico a sapere che cosa c'è in questi piani viene prima dell'interesse di vendere diffondere queste cose che il pubblico non conosce e non può conoscere nemmeno un addetto ai lavori
Dopodiché naturalmente la cosa che va assolutamente fatta e contrastare questo sunto fondamentale cioè il contrastare la logica di fondo che questo sia un problema tecnologico che questa sia un'emergenza del risolverà tutti i costi con qualunque tipo di tecnologia
E che l'automazione lo farà promozione un cervo come abbiamo visto piuttosto stupito dei quello che li vogliamo fare dire e fare
Molto manipolabile a seconda di chi lo comanda con quindi avete visto Sato voto diventare diciamo così a ultraconservatrice asociale può diventare meno ultra conservatrici no quelle che invece non possono dire che è stato presto ciò che la mente ottantanove via dicendo alla bla bla bla
Ecco insomma sappiamo che questa è tutta geopolitica oltre che politica però abbiamo assolutamente bisogno di liberarsi di questa convinzione che invece filosofica e
Sì che Aprica probabilmente a questo punto mi sta le prove cioè liberarci dell'idea che questo sia un un problema emergenziale Darko da risolvere con tecnologie affrontarlo come si affrontano i fenomeni umani che non hanno fine
No e e soprattutto magari farlo non sulla base di propaganda di odio ma sulla base dei fatti potrebbe essere un buon punto di partenza
Abbiamo ancora qualche minuto volevo chiederle se c'è qualche altro diciamo Insight è risultato chiave rispetto a la ricerca che avete portato avanti o se ci sono degli sviluppi futuri rispetto alle attività che sta portando avanti su questo fronte sulle automazione dell'intelligenza artificiale in questo ambito
Sì ma ma abbiamo un tema ho continuato il prodotto di ricerca abbiamo ancora un anno
Al almeno io ancora sicuramente un anno di di lavoro di ricerca dopodiché se tutta l'attività di policy making nocca sì che conduciamo insieme alla coalizione della città civile scaltro Tecnost Rail
Che consiglio elettore di andare a a frequentare diciamo perché è il meglio diciamo dalla società civile europea che combatte per per i diritti umani sul campo in molti casi
E naturalmente continueremo a lavorare insieme a loro da sola questo non posso sbilanciarmi ancora su su cosa dotare in rete in lavorazione ma posso dirvi sicuramente continueremo il nostro lavoro stiamo da continuando
Nostro lavoro di indagine su come vengono spesi i soldi diciamo degli euro dei cittadini europei in ricerca e sviluppo ricerca innovazione diciamo in questi campi in questi ambiti quindi ci sono prove col nuovi progetti ci sono ulteriori dettagli da fare ci sono probabilmente dei passi anche di natura amministrativa procedurale diciamo da fare per poter magari ottenere qualche cosa di più vantarmi di informazione e di trasparenza rispetto a quello che abbiamo ottenuto il proveremo a fare tutto questo sapendo naturalmente che qui il contesto è di grazie grazie al più assoluta c'è un contrasto di estremisti
Che odiano fondamentalmente immigranti che stanno cercando in tutte le maniere di di mandarli a casa loro come dicono loro non sembra essere un contesto in cui ragionare in punta di fioretto diciamo su in diritti Etica intelligenza artificiale bisognerà anche portare il livello dello scontro a livello più alto secondo me
E contestare le premesse diciamo ideologiche che purtroppo non europea e non solo non sono recenti cioè il picco il frutto di questo diciamo costruzione di queste fortezze automatiche di questa logica discriminatoria è il frutto avvelenato di decenni
Purtroppo di di propaganda di questo tipo e non soltanto e anche di un atteggiamento di fondo diciamo che certi Paesi dell'Unione europea che hanno sempre voluto bene distinguersi da queste altre popolazioni quindi l'altro è sempre stato usato ben presente
Nella costruzione dell'immaginario dell'uomo a diciamo come ma come immagine
è ora di vite renderà più adulto diciamo questa immagine di questo altro e meno basata sull'odio fanciullesco del premier vergognoso diciamo dei razzisti che c'è purtroppo
Prima di concludere come nelle altre puntate chiedo anche a lei sì ci sono dei suggerimenti per proseguire l'approfondimento su questo tema una qualsiasi diciamo l'ultima risorsa utile può essere un libro un report era un po'od Castro firma
Vi do una risorsa che una sorta di di Google umano cioè la mia ampia bibliografia che io sto continuando a riempire di di fonti dal tre anni a questa parte ormai
Che hai sul sito di della nostra del nostro prosatore Automation denuncia una bibliografia che viene costantemente aggiornata adesso a breve verrà aggiornata con tutte le innovazione degli organi i nuovi link degli ultimi due mesi e lì ci sono almeno un centinaio di pagine di sole fonti
Di queste cose dopodiché se volete qualcosa di più diciamo accessibile esercito di protette no sul brand come vi dicevo la nostra coalizione che ha delle risorse di base
E dei principi di fondo
Se il sito di Automation le uova anche il nostro sito h diciamo qualche qualche innovazione
è il generale lei in le voci da seguire sono sono quelle della società civile in questo caso penso a Siravo penso a Stay fuori cioè penso al board al mare ai suoi tre network
Perciò piccolo male tutte queste organizzazione che fanno questo lavoro da molti anni con con con grandissima competenza sicuramente superiore alla mia che
Non vengo da questo mondo vengo da vengo dal mondo diciamo dall'automazione più che da quello dell'emigrazione quindi spero di non avere uno sguardo strabico sulla cosa naturalmente
Bene io ringrazio il professor chiusi per aver condiviso questa sua esperienza e le sue riflessioni su un tema molto attuale importante
Grazie a voi grazie dell'invito
Vi ricordo che potete iscriverci appunti sulla it chiocciola gmail punto Como per inviare riflessioni sulle questioni affrontate o proporre nuovi temi per esplorare di nelle prossime puntate sedici depressi qualche puntata le potete rivedere o riascoltare su www radio radicale punto it e sulle principali piattaforme di ipoteca sta intanto io vi do appuntamento alla prossima puntata di puntini sulla i
La rubrica di radio radicale che vi guida alla scoperta dell'intelligenza artificiale un punto alla volta