I rischi dell'AI, intervista ad Anna Ascani

Radio radicale, siamo con.
L'onorevole Anna Ascani del Partito democratico, il vicepresidente della Camera e a capo del comitato della sulla documentazione della Camera dei deputati, che ha anche una mini commissione sull'intelligenza artificiale che ha svolto anche una relazione qui a Montecitorio sull'utilizzo delle dell'intelligenza artificiale con la Presidente Ascani. Vogliamo parlare dell'allarme e che è partito in qualche modo da OpenAI e poi si è sviluppato con la fuga di alcuni ricercatori di Anthropic sulle minacce degli intelligenza artificiale. Allora io quello che le volevo chiedere in che misura lei è preoccupata perché in queste ore sono emersi nuovi casi di comportamenti, diciamo inattesi, dell'intelligenza artificiale, e lei vedo un grosso problema su su questo e ritiene
Ritiene fondata la proposta di fermarsi?
Ma intanto bisognerebbe intendersi su cosa significa comportamenti inattesi dell'intelligenza artificiale, perché dipende dalle indicazioni che si stanno dando all'intelligenza artificiale, quello che tanti studiosi hanno detto che in realtà in OpenAI prima, ma anche nelle altre aziende si tende a fare ricerca senza guardrail cioè senza dare limiti agli agenti di intelligenza artificiale gli si danno degli obiettivi, senza dire aggiunge questo obiettivo senza ammazzare nessuno per la strada, senza hackerare altre aziende e quindi quell'intelligenza artificiale raggiunge quell'obiettivo quindi inattesi in che senso?
E poi io temo che questo gridare adesso all'allarme derivi da un aver,
Alzato troppo l'asticella delle aspettative. Quest'anno l'investimento sull'intelligenza artificiale a livello globale a 1.000 miliardi. Queste aziende da sole valgono più del Pil dei Paesi medio-grandi, compreso il nostro. C'è una bolla che minaccia di scoppiare e, se scoppiasse, sarebbe un disastro per tutti, anche per la povera gente che non ha investito un euro in intelligenza artificiale. Quindi credo che in realtà sia un timore di altro tipo, perché se il timore fosse l'Apocalisse e allora prima di tutto dovremmo porci il problema di uno l'acqua che raffredda queste macchine, basta, non bastano. Stiamo forse utilizzando le risorse naturali in modo improprio? 2 l'energia con cui queste macchine funzionano è sostenibile, tra l'altro, con una crisi energetica globale come quella che stiamo vivendo andare avanti a questa velocità, 3 l'utilizzo militare, perché di questo parlano poco i vari ceo di Anthropic, di Meta di Google e così via.
Lì, per esempio, quello che loro prospettano come futuro è già presente, cioè alcune strategie militari sono già autonomamente determinate da agenti di intelligenza artificiale. Io io vedo questa come Apocalisse dell'AI, però non sono questi i temi che i grandi padroni dell'intelligenza artificiale a fronte e allora viene il sospetto che diciamo ci sia qualche altro motivo quando sono i Musk diamo dei di Altman, a dirci forse ci sta sfuggendo di mano certo che servono regole noi lo diciamo da tanto tempo
Il fatto che lo dicono adesso loro rischia di essere un po'sospetto. Ecco
E dunque fermarci ha senso perché se diciamo i grandi big tech del dell'Occidente democratico, utilizziamo questo termine si fermano. Non credo che si fermi, per esempio la Cina, che sta sviluppando scusi. Signor utilizzo, questo termine delle
Dei progetti di intelligenza artificiale, più a buon mercato, più a buon mercato, perché utilizzano la ricerca degli altri, spesso la distillazione famosa, cioè quel fare milioni di domande a botte di intelligenza artificiale altrui per addestrare i propri a una tecnica che viene utilizzata da tempo in Cina e che effettivamente sfrutta gli investimenti che alcuni fanno per rafforzare la propria tecnologia, però in un clima di competizione e ci sta anche questo fermarsi è difficile anche perché i i, l'idea che questa tecnologia possa servire al benessere dell'umanità non va accantonata, cioè l'intelligenza artificiale può essere utile a progredire. Ci può aiutare, per esempio in ambito medico. Noi abbiamo visto una piccola parte di quello che si può fare con la diagnostica attraverso l'intelligenza artificiale, con alcune operazioni complesse, sintetizzando proteine che ci aiutano a curare malattie che oggi riteniamo incurabili. Perché dovremmo fermarci di fronte alla possibilità di far del bene all'umanità? Dobbiamo però darci delle regole. Questo sì, per esempio, l'intelligenza artificiale non deve essere utilizzata per videosorvegliare le persone, giudicare le loro opinioni e dare loro dei ponteggi. Questo si può fare. L'Europa l'ha fatto speriamo che gli Stati Uniti lo facciano, anche se non mi pare che Trump sia tanto dell'idea. Vediamo che succede al Consiglio di sicurezza dell'Onu. Se davvero i francesi riescono a dare una spinta in questo senso, ritiene che l'Europa oggi si trova in una condizione di grave debolezza rispetto all'intelligenza artificiale
Noi siamo stati i primi regolatori
Però non abbiamo le capacità tecniche di qualche giorno fa, credo la Commissione europea ha fatto sapere che aveva ottenuto il rilascio di Mythos, e questo è per noi. Ritiene che sia in qualche modo preoccupante, anche per la tenuta democratica delle nostre istituzioni e il problema dell'Europa è prima di tutto infrastrutturale che noi non abbiamo un cloud europeo e questo lo ripeterò fino all'esaurimento. Perché poi queste tecnologie, che sembrano volatili, in realtà funzionano su infrastrutture molto pesanti? Oggi tutti i nostri dati su cui poi facciamo lavorare queste macchine sono conservate in data center, che sono di proprietà di grandi società statunitense. Noi lavoriamo così e vale per le pubbliche amministrazioni, per gli ospedali, per le scuole, per la nostra vita personale, il cloud, su cui lavorano le nostre mail statunitense, nostre, non solo dei parlamentari, nei cittadini italiani c'è un problema di vulnerabilità dell'Europa da questo punto di vista e qui l'Europa l'investimento lo deve fare ieri non può aspettare domani per farlo, perché le infrastrutture sono la cosa fondamentale è quella che ti mette al riparo nei momenti di criticità geopolitica. Poi, certo, servirebbe un campione europeo e allora qui servirebbe un fondo ad hoc, mettendo da parte sovranismi ormai anacronistici e idee anche contro gli aiuti di Stato, che in questo caso invece, diciamo, sono una cosa che può aiutare. Dobbiamo individuare qual è la società, il campione che più avanti ministra francese ce ne sono altre. Vediamo e poi fare in modo che sia competitivo con gli altri. Non dobbiamo spendere quanto ha speso OpenAI o quanto ha speso Anthropic, non dobbiamo essere di frontiera, devono avere dei modelli, però all'altezza. In fondo, i cinesi per tanto tempo hanno fatto questo e sono stati nel mercato in Europa. Oggi non lo sta facendo. L'euro poggia appunto come unico modello un po'riconosciuto, quello di Mistral, che però è immensamente meno potente e meno competitivo rispetto agli altri, perché perché mancano gli investimenti di sopra non è per le regole, attenzione, non è vero che sono le regole, affermare lo sviluppo in Europa sono è la mancanza di venture capitalist e la mancanza di propensione al rischio nell'investimento, perché la nostra cultura è diversa da quella americana in Cina, lo Stato che investe in America sono i privati, con una propensione al rischio completamente diversa in Europa, tanto risparmio privato. L'Italia non ne parliamo e noi dobbiamo un po'
Giocare con questo nostro problema facendolo diventare un punto di forza, quindi avere dei fondi che investano e ci permettano di rimetterci in pista
L'ultima cosa dovrei prima. Ho fatto un accenno sugli usi bellici dell'intelligenza artificiale, sul quale c'è stata una grossa polemica con Anthropic e ritiene che tenere delle dei conflitti aperti come quello tra Russia e Ucraina, ma anche quello del Medio Oriente e nel Golfo Persico c'è una grande esercitazione per alcuni modelli di intelligenza artificiale
Perché noi abbiamo visto che lo sviluppo bellico che c'è stato, per esempio nella Seconda guerra mondiale, ha portato nel giro di 3 4 anni alla bomba atomica.
Lei vede un pericolo nei conflitti aperti, come diciamo o luogo di esercitazioni di questi nuovi modelli di intelligenza artificiale per uccidere e distruggere, purtroppo spesso le tecnologie sono il frutto di qualcosa che si sperimenta in ambito militare stesso internet, in qualche modo è stato frutto di quel tipo di ricerca, chiaramente questa tecnologia più pericolosa perché in una guerra la cosa che deve rimanere chiara è la responsabilità delle azioni, altrimenti salta tutto cosa fa l'intelligenza artificiale cancella
Il volto e il nome dei responsabili, perché mette in mano a calcoli algoritmi, a cose difficilmente rintracciabili. La strategia militare. Quindi cosa bombardò è quella data a scuola, quel dato ospedale dipende non dalla decisione del politico e dello stratega militare del generale, ma da un algoritmo, e questo rende la guerra qualcosa di più difficile anche da considerare inaccettabile, cioè noi ci stiamo abituando alla guerra anche per via della tecnologia. Ci sembra che una guerra fatta coi droni faccia meno male che una guerra fatta coi carri armati. Andiamo a vedere il numero dei morti e scopriremo che non è così, quindi li davvero c'è un problema di rischiamo grosso.
Proprio perché questo è un problema non solo di tecnologia, ma anche dell'effetto che ha sull'opinione pubblica, sulla considerazione generale di che cos'è una guerra che ci sembra qualcosa che possiamo tutto sommato accettare, e invece no, perché queste guerre stanno ammazzando 1000000 di persone, oggi nel 2026, quindi credo che libri, ovvero serve una moratoria globale per stabilire che quella tecnologia può essere utilizzata, diciamo in determinate circostanze, senza però mai cancellare la responsabilità e la catena delle responsabilità. Purtroppo ora non è così.
Abbiamo trovato anche lo spunto per una risoluzione all'Onu e magari grazie al vicepresidente della Camera Anna Ascani, con la quale abbiamo parlato dei rischi dell'intelligenza artificiale, mentre è in corso questo dibattito sul sulla liceità, i rischi che corriamo attraverso l'utilizzo irresponsabile di,
Questo sviluppo tecnologico, grazie grazie,