Processo all'AI. Due proposte a confronto tra accusa e difesa. Un'udienza aperta sull'intelligenza artificiale

Allora direi di iniziare.
Buongiorno a tutti oggi è una bella giornata, sono arrivati i 25 gradi a Roma, abbiamo questa bellissima iniziativa qui in European questa volta, io non c'entro niente e il professor Rocco Panetta e l'avvocato Federico sartoria che si sono inventati questo processo all'intelligenza artificiale e naturalmente io gli sono andato subito dietro a vuota abbiamo tanti nuovi amici che sono venuti in questa sede a trovarci e l'abbiamo anche contestualizzato il diciamo questo evento nell'ambito del corso di alta formazione che faccio sull'intelligenza artificiale,
E detto questo, a me toccano i saluti istituzionali, ancora io non ho capito che cosa sono i saluti istituzionali, comunque proprio a dirvi che so io sono Giuseppe Cassano sono il direttore del dipartimento di Scienze giuridiche dell'European School of Economics qui a Roma, ma anche a Firenze a Milano come vi dicevo acquisto seguendo questo corso di alta formazione sull'intelligenza artificiale,
La la parte più complicata delle presentazioni delle regole d'ingaggio le farà, come è giusto che sia, Rocco Panetta. Io mi sono autolimitato in 120 secondi, insomma, non dico altro se non una breve riflessione, insomma, tutti gli amici che ho visto Liu-Jo salutati, ma mi preme salutare insomma il il mio direttore della residenza dei Cavalieri del Lavoro, il professor Stefano semplici e quindi proprio per questo diciamo fa un'unica citazione di di filosofia per per omaggiati, insomma nel ricordo insomma dei dei vecchi tempi, allora
Io vi dico questa cosa che raccontava a mio figlio ieri sera, di nuovo è di nove anni e secondo me è particolarmente pregnante per quello che andremo a fare oggi un filosofo moderno, il suo nome è Mike Tyson, fare tante cose è stato anche campione dei pesi massimi nel 1987 prima della di una finale a un giornalista che gli si avvicina e gli dice il tuo avversario a un piano,
Il filosofo Mike Tyson risponde un piano. Quando una persona arriva un pugno in faccia, quel piano non c'è più. Ecco quello che noi secondo me dobbiamo capire in questo momento storico è che se noi abbiamo un progetto di vita breve, periodo medio, periodo, lungo periodo, il pugno in faccia ci è arrivato da parte dell'intelligenza artificiale. Non si scappa quindi adesso la cosa che noi adesso dobbiamo capire e decidere. È questa se questo pugni in faccia ci dà la possibilità di svegliarci e di reagire a questa incredibile novità oppure se questo pugno in faccia ci manda assolutamente ko e per questo oggi discutiamo di processo alla intelligenza artificiale, quindi iniziamo a vedere quali sono i pro e i contro dell'intelligenza artificiale. I miei 120 secondi sono scaduti e chiamo alla a relazionare Rocco grazie
Ma grazie a Giuseppe Cassano per questa presentazione, per averci ospitato oggi qui alla European School of Economics.
Ringrazio subito tutte le persone che hanno aderito all'iniziativa, un'iniziativa non semplice, con una genesi strana nel senso, l'idea nasce da una chiacchierata di Federico che oggi fa qui l'accusa Federico Sartore con il me, lo sono segnato perché non c'è quindi con esatto con il professor Marco Landi e di Europa e da lì mi mi hanno presentato questa idea e io mi sono ricordato che durante il Covid,
Con la Presidente Augusta Iannini fummo invitati da Elisa Greco, che qui in seconda fila, che una giornalista nota
Del nostro del nostro Paese e a questo processo in teatro facemmo una roba all'Eliseo, mi pare processo a Leonardo da Vinci perché, appunto, Elisa, ha creato questo format dei processi alla storia e quindi da questa idea.
E abbiamo elaborato poi ne ho parlato qui col professor Cassano e la macchina è andata avanti, che cos'è il processo all'intelligenza artificiale è una cosa molto ambiziosa, ma quindi dovrete scusarci per tutte le cadute di di stile, le declinazioni un po'più prosaiche che probabilmente metteremo in campo oggi però,
L'idea è.
Individuare due, tre, quattro punti controversi che già sono in qualche modo nel dibattito, no accademico giornalistico, soprattutto anche giuridico, e di noi operatori che in qualche modo lavoriamo in questo settore, perché io guido uno studio legale e una società di consulenza che si occupa di dati e quindi giocoforza anche di intelligenza artificiale, e anche per questo allora abbiamo chiamato nella corte giudicante appunto al presidente Augusta Iannini, che è stata tante cose però diciamo, in un pezzo recente della sua carriera è stata vicepresidente dell'autorità garante per la protezione dei dati, quindi a proprio guidato la transizione dal mondo dei dati 1.0 a quello 2.0, che poi la diciamo la la
Oggi è la base del del mondo dell'AI, abbiamo poi la consigliera di Cassazione, Rosita d'Angiolella, che alla Presidenza del Consiglio al Douglas quindi peraltro è una delle persone che tecnicamente ha redatto la, la legge sull'intelligenza artificiale italiana si può dire vero, so che non è un segreto e poi abbiamo e il consigliere Marcello Albergoni, capo e vice capo di gabinetto della della CNA e quindi che la l'agenzia della cyber security italiana che ha avrà il compito di fare i controlli proprio in materia di.
Intelligenza artificiale, quindi questa il nocciolo duro, ecco dei di chi andrà a giudicare l'accusa è nelle mani del mio socio e, caro amico Federico Sartore, la difesa è nelle mani di un altro mio socio e un altro caro amico, Marco Lauricella, abbiamo il cancelliere,
Che un altro grande
Componente del nostro studio, il counsel,
Vestono mi viene in mente, Davide Montanaro, ecco perché tutti i sei nomi mi dovete scusare, avrà inizio a leggere e poi abbiamo, abbiamo nell'ordine.
I giurati, i giurati, abbiamo dato il ruolo di portavoce della giuria a presidente di link o, se il professor Edwin Morley Fletcher, abbiamo poi Nicoletta Piana del presidente dell'Istituto euro europea, Europia esatto.
Riccardo Spinelli globali ai compliance di Gi Group, azienda nota nel settore della.
Del, diciamo agenzie del lavoro e risorse umane, Alessandro Orlandi, l'avvocato, Alessandro Orlandi Legal and compliance dai Rector di Eurobet, Stefania Trogu, signor De Rector litigation, privacy e antitrust di Bright Star Italia, per la loro sono anche miei cari amici, quindi peraltro, quindi, così e passiamo adesso invece ai testimoni,
E i testimoni avranno un ruolo importante, lo so che nei nei processi quelli veri testimoni non stanno all'inizio in sala in aula vengono chiamati dopo però qui vi dicevo qualche deroga ce la dovete concedere, allora abbiamo Martina Carpani.
Detto bene o Carpani Carpani project manager Innovation di Save the Children, Elena Giovanna Bignami, professoressa di anestesiologia e terapia intensiva Massimo Chiriatti Chief Technical and Innovation Officer di Lenovo Daniele Grandini CIO di imprese of the world, Daniele Nardi, professore di intelligenza artificiale alla Sapienza Claudia Morelli, giornalista specializzata in diritto e tecnologia che conosco da parecchi anni.
Il professor Stefano, Semplici, mio caro amico e mentore, professore di etica sociale, bioetica, all'Università di Roma, Tor Vergata e già direttore della residenza dei Cavalieri del Lavoro, dove anch'io mi sono formato e quindi lo dico con con insomma con un po'di emozione e di orgoglio e poi Francesco Sacco ultimo ma non ultimo perché è un noto professore di digital economy è strategy all'Università Bocconi di Milano, io quindi mi fermerei qui darei subito la
La parola a accusa e difesa, la presidente chiaramente ci dovrà prima introdurre i capi di imputazione in un'ora e tre quarti dovremmo finire tutto e poi ci sarà un rinfresco dove potremmo rilassarci e tirare le somme di questa giornata, grazie.
Le contestazioni si articolano in tre capi, darò lettura del primo capo e poi passerò per il secondo capo alla consigliera d'Angiolella per la lettura del terzo capo al consigliere Albergoni.
Quindi il primo capo di imputazione recita manipolazione affettiva sistemica tramite intimità simulata. L'accusa riguarda l'esistenza di sistemi che simulano reciprocità affettiva, senza poterla approvare, costruendo legami strutturalmente unilaterali ma apparentemente bidirezionali. Non si tratterebbe quindi di dipendenza generica, ma di una simmetria affettiva intenzionale con finalità capitalistiche. Il bisogno umano di essere amati viene trattato come giacimento di valore industriale per l'accusa, le metriche di engagement, l'ottimizzazione della session ripenso, il design conversazionale sarebbero progettati per massimizzare l'attaccamento e non il benessere. La fattispecie configurerebbe una forma nuova di sfruttamento, ossia della vulnerabilità relazionale. I casi documentati di danni psichici, in particolare su minori e soggetti fragili, costituiscono il riscontro empirico dell'accusa. Dottoressa d'Angiolella, capo 2, il secondo capo riguarda il collasso epistemico strutturale
L'accusa riguarda la vera alterato la possibilità di distinguere tra vero e falso nello spazio pubblico globale, l'accusa non riguarda la produzione di contenuti falsi, ma più radicalmente la disinstallazione dell'infrastruttura sociale, che permetteva di distinguerli, la diffusione di Synthetic media indistinguibili dal reale l'emergere dell'Ars dividend la facoltà di negare qualunque registrazione autentica come deepfake rendono la verità non confutata ma irrilevante.
Il danno non è la singola menzogna, ma l'avvelenamento del pozzo, da cui ogni democrazia attinge la fattispecie, dovrebbe investire il presupposto cognitivo stesso del dibattito pubblico e del processo giudiziario.
Consigliere Albergoni terzo capo.
Il terzo capo riguarda l'automazione della letalità e la dissoluzione della catena di responsabilità.
L'accusa riguarda l'aver introdotto nello scenario bellico sistemi decisionali autonomi tali da rendere strutturalmente irrintracciabile l'imputazione morale e giuridica dell'atto omicida il programmatore non ha scelto la vittima, l'operatore non ha calcolato la traiettoria, il comandante non ha autorizzato il singolo colpo, la responsabilità si distribuisce fino a dissolversi per l'accusa si configurerebbe così un responsibility gap incompatibile con il principio di imputazioni individuale stabilito a Norimberga e con lo Statuto di Roma.
La velocità decisionale sul secondo dei sistemi sottrarrebbe l'atto letale alla qualificazione stessa di decisioni in senso giuridico la fattispecie non riguarda il danno bellico, ma l'erosione della categoria di soggetto morale imputabile.
La discussione.
Un testimone.
Grazie grazie a tutti, a tutti.
Diciamo che noi, come Save the children e ci occupiamo di come la tecnologia entrano nella vita di bambini, bambine e adolescenti, adolescenti, un poso tutti i livelli,
Cerchiamo di proteggerli negli ambienti digitali, di prepararli in modo critico a un mondo che usa e abusa, l'intelligenza artificiale, e di chiedere il rispetto dei loro diritti alle istituzioni, sperimentando anche tecnologie pregio, progettate secondo principi, Child Right center ed adatte ai loro bisogni e alla loro età che dimostrano che è possibile anche costruire le ha in modo diverso.
In base al mio lavoro, non chiedo di condannare l'intelligenza artificiale come se fosse un soggetto morale, ma di riconoscere che dietro ogni scelta e ogni sistema ci sono scelte umane, scelte politiche, industriali, progettuali, commerciali e di uso. Quando queste scelte sono svolte, si sa già by default, che possono esporre ai bambini e adolescenti a rischi prevedibili, misurabili e prevenibili. La responsabilità non può dissolversi dentro la parola innovazione, sarebbe possibile un risk assessment è molto spesso non viene svolto. Il sedicesimo Atlante dell'infanzia di Save the Children Italia, uscito a novembre 2025 con il titolo senza filtri, riporta che oltre il 92% di ragazzi e ragazze tra i 15 e 19 anni parliamo di persone in Italia utilizza strumenti di intelligenza artificiale e che il 41,8% li ha usati per cercare aiuto quando si sentiva triste solo o ansioso una percentuale simile, il 42% li ha consultati per prendere decisioni importanti sulle relazioni sulla scuola o sul lavoro. Questi dati non dicono soltanto che gli adolescenti usano. Le hai, dicono che la usano anche in momenti di vulnerabilità emotiva quando cercano ascolto orientamento e rassicurazione.
Ed è qui che il tema smette di essere tecnologico e diventa educativo, sanitario e politico, gli adolescenti stessi dicono di apprezzare le ai, perché è sempre disponibile, non giudica ed è comprensiva questo, sempre secondo la nostra ricerca, e queste non sono qualità occidentali sono il risultato di scelte di design deliberate pensare per fare pensate per fare in modo che l'utente Aresti torni e si attacchi.
Scelte che hanno una responsabilità multipla pubblica e privata, da un lato, coprono un vuoto istituzionale nei servizi di assistenza psicologica gratuita, dall'altro li sostituiscono in modo però conforme allo user engagement, semplificando la conflittualità, semplificando le emozioni in corso, l'analisi dei problemi dando sempre ragioni all'utente
Evitando le risposte che l'utente non vorrebbe sentir dire da un adulto di riferimento, ma che invece spesso gli servono per crescere.
Il bisogno di essere ascoltati, che è uno dei bisogni umani più fondamentali, viene intercettato da sistemi il cui obiettivo dichiarato è massimizzare il tempo di sessione, non il benessere o la crescita della persona, ovviamente non sosteniamo che ogni sviluppatore voglia danneggiare un'adolescente, sosteniamo però una responsabilità di sistema, poiché molte iPhone ottimizzate su metriche che possono entrare in conflitto con il benessere psicologico, soprattutto quando l'utente è minorenne o vulnerabile e la responsabilità aziendale nasce proprio qui quando il rischio prevedibile, misurabile mitiga abile ma viene trattato come un effetto collaterale accettabile del modello di business
Ad esempio, il designer realistico peggiora quello che la ricerca chiama effetto Eliza la tendenza percepire i chatbot come interlocutori reali, attribuendo loro intelligenza e comprensione questo nome smette di essere una curiosità accademica quando si sviluppa quel legame che ha 14 anni e se non hai nessuno intorno.
Di cui hai bisogno, 6 14 anni non ha nessuno intorno il caso che ha reso visibile questo rischio è quello di Sezer adolescente di 14 anni, secondo la causa intentata dalla madre.
Il ragazzo aveva sviluppato una relazione emotiva intensa con un chatbot character e ai configurato per impersonare un personaggio di fantasia, nel 2024 si è tolto la vita, parlando per ultimo proprio con quel chatbot.
Il mio compito è di dire che quella vicenda ha mostrato un vuoto accesso di minori a sistemi ad alta intensità relazionale, insufficiente verifica dell'età, scarsa trasparenza sulle dinamiche emotive generate dai chatbot, assenza di standard chiari di sicurezza by design, che non rendano il benessere di ragazze e ragazzi una questione accessoria solo dopo pressioni pubbliche.
Character e I ha vietato l'accesso agli under 18, ma la tecnologia era già nelle tasche di milioni di ragazzi.
Per questo.
Concludo
Dicendo che la UN Committee on Rights of the child general comment numero 25 richiede.
Il rispetto dei diritti di bambine e bambini, anche negli ambienti giri digitali, Unicef ha sviluppato un'idea di Child Rights Impact Assessment, che potrebbe essere affiancato al FRIA, già presente nelle ai Act e che ancora invece non è inserito all'interno delle proposte istituzionali. Quello che chiedo non è di condannare le AI, ma stabilire che chi la progetta la deplora ci guadagna, abbia una responsabilità giuridica sui danni che produce, perché è solo quando quella responsabilità sarà chiara. Chi sviluppa questi sistemi avrà un incentivo reale a fare scelte di design, più eque, produrre specifici piani di mitigazione del rischio e clausole più stringenti di utilizzo, responsabilizzando a cascata tutti gli altri soggetti coinvolti. Proprio perché la responsabilità è distribuita, non deve risolversi, ma deve essere ricostruita sulla catena del valore dell'algoritmo
La professoressa Elena Giovanna Bignami, docente di anestesiologia e terapia intensiva, presidente Siaarti.
Buonasera, dottoressa
Assessore cedo subito il microfono, la testimone precedente parlava di realtà marginali e dei soggetti fragili.
Sulla base della sua esperienza, vuole relazionare insomma alla giuria e alla corte?
Un po'queste su queste realtà, se lei le conosce queste realtà di marginalità.
Delle persone vulnerabili e, soprattutto se secondo lei la intelligenza artificiale abbia creato questi bisogni o non li abbia semplicemente intercettati, per poterli poi.
Per poter fornire eventuali risposte e in questo caso, se ha evidenza di risposte positive che siano state date dall'intelligenza artificiale che non debbano necessariamente essere criminalizzate soltanto perché provenienti da una macchina.
La possibilità e chiedo al signor cancelliere se anche a me dà il tempo grazie, eh sono un professore ordinario di Anestesia, Rianimazione, attualmente, presidente italiano degli anestesisti rianimatori e quindi e vado un po'in continuità con la collega precedente nel cercare di metterci un po'dalla parte dei soggetti più fragili, le intelligenze artificiali a noi piace provare a definirle così sono di due tipi. Principalmente non intendo farvi una lezione su questo, perché lo sapete già predittive e generative e hanno pericoli, e secondo noi, all'interno della dei, negli ospedali o delle case di comunità o comunque dei soggetti fragili, ancor più malati e magari sedati in terapia intensiva o in corso di anestesia generali.
Hanno delle peculiarità diverse in tutti e due i casi, la prima, la predittiva, la conoscete tutti, la più famosa è il machine learning, una specie di macchina che impara da se stessa in continuo.
Che ha degli algoritmi più o meno in chiaro, siamo nati molto neri e siamo diventati un po'più grigi, una specie di bimbi trasparente.
Diventa, secondo noi, medici no un pochino più pericolosa quando usata senza la conoscenza e la chiarezza degli algoritmi, la seconda, la generativa, quello a cui faceva maggior riferimento la collega precedente, è un pochino più un problema di informazione ed educazione dei pazienti, soprattutto quelli fragili che hanno iniziato a utilizzarla come fosse Google per esempio e o in sostituzione.
Noi, come presa in carico di un paziente fragile, ma in generale come presa in carico di un paziente e di un cittadino, pensiamo che non debba assolutamente essere demonizzata, pensiamo che sia uno strumento, ognuno con le proprie peculiarità, proponiamo un modello ibrido, quindi l'intelligenza umana che faccia quello che sa fare e usi le intelligenze artificiali e tutte le nuove tecnologie come strumenti noi crediamo fortemente in questo, crediamo altresì nella governance e siamo molto contenti, anche se non siamo specificatamente
Come dire nominati nelle ai Act, ma siamo, sappiamo che siamo nell'Alto rischio, sappiamo che c'è una priorità di altre chiamiamoli così categorie ed è giusto così dal punto di vista di cittadino, però per noi è un faro nella notte quel tipo di strumento per noi clinici che riusciamo a imparare noi e quindi a metterci un freno che deve solo fare in modo che le intelligenze artificiali evolvano come ci ha insegnato Darwin e lo faranno ci saranno e noi vogliamo evolvere con loro con le intelligenze artificiali e tutte le altre nuove tecnologie, perché comunque alla base ci sono sempre quel tipo di di introduzione di innovazione tecnologica che a volte vediamo e a volte non vediamo.
Ed è proprio quello che ci permette, per esempio, di poter proteggere i nostri pazienti quando sono incoscienti non abbiamo ancora una risposta a tutto questo no, ma siamo assolutamente consapevoli che il paziente vada informato anche di questo, quando si usa uno strumento di AI quando usiamo una tecnologia con e I anche se non sappiamo bene qual è o quando abbiamo deciso di fare l'interoperabilità cioè quando le la nostra atto medico, la nostra presa in carico,
Prevederà anche quella strumentazione che noi continuiamo a pensare debba, secondo me è, ma debba rimanere uno strumento.
Grazie.
Ora la parola al dottor Massimo Chiriatti Chief Technical and Innovation Officer di Lenovo.
Dottor Chiriatti.
Visto la insomma, la sua, la sua nota fama come divulgatore nel nel mondo dell'AI la sua la sua competenza specifica, anche in connessione con l'informazione pubblica come autore.
Mi piacerebbe, come accusa a sentire la sua opinione rispetto a appunto, al nostro secondo capo di imputazione, che ritengo sia va be'adesso, non vorrei anticiparvi, diciamo, ma la mia requisitoria finale, ma diciamo il più forse facilmente dimostrabile, a mio avviso quindi quindi cosa ne pensa lei come?
Come ritiene che si possa, cioè?
Mia figlia.
Come esatto, come come ritiene che cioè, ritiene che evidentemente si è evidente questa questa l'impatto, ecco quanto l'impatto dell'AI abbia cambiato sia stato un cambiamento di paradigma nel nel mondo della verità e post-verità.
Buongiorno a tutti, grazie per l'invito, diciamo che un tempo soltanto i giornali, la televisione, la radio potevano produrre informazione.
E il metodo per arrivare nelle nostre case era Broadcast, cioè da 1 a tutti, non c'era un canale di ritorno, era soltanto l'autorità che per l'appunto distribuiva queste informazioni attraverso l'etere e così via.
E poi abbiamo avuto internet che dal mio punto di vista è una macchina che ci aiuta nella distribuzione dei contenuti e quindi tutti insieme siamo persone che dialoghiamo tra pari, non abbiamo più questa autorità centrale o comunque ce l'abbiamo, ma comunque è affiancata da da un meccanismo per distribuirci tra di noi le informazioni il costo marginale si è abbassato e tutti quanti noi possiamo fare questo tipo di di comunicazione,
Adesso, però dobbiamo concentrarci sulla produzione di queste informazioni, perché per l'appunto, se io prima vedevo a un video della stato delle libertà che veniva distrutta era solo Hollywood, ce la poteva produrre perché c'erano capitali necessari, c'erano tempi e costi tecnici.
Competenze oggi, invece, con questi sistemi di AI generativa, per esempio, tutti quanti noi possiamo produrre.
Testi, immagini video di alta qualità, voglio dire anche che avete visto.
E noi siamo 1 miliardo che usiamo questi sistemi, quindi vedete che adesso stiamo assistendo a un crollo dei costi per la produzione, non solo per la distribuzione del del materiale.
Dei contenuti, ma anche nella produzione, dal mio punto di vista, questa è una grande opportunità, perché è il fatto che tutti possano accedere a questi strumenti, a produrre contenuti e a ad avere la distribuzione grazie a internet, ci consente di collegare le intelligenze, evidentemente però si sono anche degli effetti negativi.
E cosa vogliamo dire con questa secondo noi produciamo a della documentazione, penso al dottor Albergoni, che adesso sul suo taccuino sta scrivendo un testo, la domanda che vi faccio è, secondo voi, quel testo è l'estensione della memoria del dottor Albergoni,
Ecco Char.
Khan Chalmers Clark, hanno detto negli anni 80, questa è un'estensione della memoria, quel contenuto è un'estensione della memoria del Toro Albergoni, solo che quel contenuto è un contenuto opposto cognitivo, cioè passa prima dalla mente del dottore e poi trascrive.
Quel documento adesso il dottore, lo pubblica lo mette on line e quindi tutti possono scrivere e leggere quel documento e quindi il tema è non solo la produzione, che oggi è molto semplice da fare, dobbiamo concentrarci sul rilievo sulla nostra capacità di comprendere l'autorità.
Da chi arriva quel documento?
Perché non è più Hollywood, quindi diciamo che ci faceva capire se era falso o meno, adesso arriva da tutti, e allora proponiamo, con un gruppo di ricerca il fatto che attenzione, perché una volta che queste macchine sapete che le Hyper definizione e al letto del nostro passato,
Al netto dei nostri passaggi storici, tutti i nostri dati e suggerisce, come diceva la collega, genera anche il nostro futuro.
Quel documento è il documento opposto cognitivo, però il punto più importante, credo, ossia che le ai ci sta anticipando.
Cioè sta in qualche modo o precorrendo i nostri tempi, perché, avendo letto il nostro passato dai nostri dati, non c'è neanche più bisogno di un prompt per chiedere alle hai qualcosa perché le ha e ci suggerisce e precognitive lo chiamano sistema 0 in onore dei Daniel Kahneman che ha detto,
Che nel nostro cervello sta semplificando, abbiamo un sistema, uno, quello rapido, quello istintivo, con l'immediato e il sistema 2, quello più riflessivo, quello più lento, quello che più consuma energie ma che ci fa fare i calcoli migliori.
Ecco il sistema zero in questo contesto, è un sistema che lavora prima di noi prima della nostra consapevolezza, quindi sono molto contento oggi di poter confrontarmi con voi, ascoltare, imparare sugli effetti sociali, culturali che abbiamo bisogno di mettere in piedi, come le nuove politiche per usare queste macchine perché per me è necessario noi siamo fortunati ad avere queste macchine a nostra disposizione è una scelta degli umani, ma attenzione però a verificarne i risultati grazie.
Grazie al dottor Massimo Chiriatti Chief Technical Innovation Officer di Lenovo, ora la parola al dottor Daniele Grandini ceo di impresa, Ftth Forward.
Grazie e benvenuto, dottor.
Il capo d'accusa lo ha avuto modo di ascoltarlo, io le chiederei se è possibile di fare di condividere anche una riflessione.
Sul fatto che l'Inps, l'intelligenza artificiale, possa in realtà anche essere la più grande infrastruttura epistemica mai costruita.
Ah, perché l'accusa ci ha presentato l'intelligenza artificiale esclusi, ma esclusivamente come una forma di degrado del epistemico, mentre in realtà le potenzialità possono anche essere sviluppata in senso inverso.
Aspetti che mi sentano comunque tre aspetti, perché l'accusa li vedo messi insieme, c'è la capacità tecnologica.
C'è la volontà dei bed Detours e c'è un effettivo, o forse non effettivo impatto sistemico, partiamo dall'ultimo l'ultimo grande tornata elettorale, il mondo democratico, c'è stata nel 2024 Europa, tantissime testimoni, tra cui quelle europee e ovviamente, le elezioni americane.
Il Turing Institute ha attestato che, nonostante tantissimi tentativi in Europa vado a memoria, ce ne son stati 19 di influenzare il risultato elettorale, non c'è stato nessun esito misurabile di questi tentativi sul risultato finale, cosa voglio dire con questo che, dal momento che c'è capacità tecnologica, assolutamente sì, la menzogna diventa più facile e più economica.
E c'è la volontà dei Predator, assolutamente sì.
Ma l'impatto non c'è e l'impatto non c'è per una serie di motivi, intanto perché questo questo collasso epistemico, beh c'era già prima, cioè non è che l'AI inventa le notizie false, non è che lei ha inventato il deepfake,
E ai potenzia e poi mi ricollego alla domanda che mi ha fatto Delai potenzia l'AI ci dai super poteri, come amo dire, e quindi aumenta la capacità umana. Da questo punto di vista, certo, aumenta anche la capacità umana di mentire e di creare strutture completamente inventate, ma è colpa dell'AI o come sempre, e di chi la utilizza un altro aspetto. Lei ha gli anticorpi, I go detto s'quindi, tutte le grandi, tutti i grandi e i LEPS mettono dei digital finger print oggi, su cui i contenuti digitali che producono. Quindi, è sempre possibile ricostruire se quel contenuto è stato generato da un good Hector, quelli che io chiamo scudetto per cui è vero che c'è il Ayers deve dance, ma è Alliance dividend ce l'ho se ho iniziato a usare, ad esempio, strumenti che vengono dal mondo dei cattivi
E gli strumenti del mondo dei cattivi, ebbene sì, ci sono.
Lei ha e non è solo fatta dai dai grandi club.
E con questo cosa voglio dire che, ancora una volta, è difficile dare una responsabilità di una tecnologia, quando questa invece è utilizzata dagli esseri umani, per il bene o per il male e per il bene, ovviamente lei ai viene usato, abbiamo sentito prima la professoressa che ha così ha Neste grazie.
Il.
E le potenzialità che ha nell'aiutare i clinici, noi ci misuriamo tutti i giorni con questo, con queste possibilità, non solo abbiamo la capacità di andare ad utilizzare, ripeto questo tipo di tecnologie anche come contromisura rispetto a questi deepfake.
Avete sentito probabilmente qualcuno di voi del rilascio di Mythos l'ultimo modello di Anthropic piuttosto che di Igp T 5.5 cyber sono modelli che sono stati pensati in realtà è un effetto collaterale, ma passatemi questa narrazione che non è strettamente tecnologicamente corretta, sono stati pensati per aiutare a difenderci,
Quindi, da un lato abbiamo una tecnologia.
Come lo usiamo il compito dell'uomo, che rimane padrone, almeno per il momento, speriamo ancora per un po'chi rimane padrone di questa tecnologia, quindi trovo difficile imputare all'intelligenza artificiale un collasso epistemico strutturale che peraltro nel 2024 gli studiosi, chi studia questi fenomeni ci dice non esserci o non esserci stato.
Grazie al dottor Daniele Grandini ceo di impresa soft Forward ah, ah, prego la parola alla al professor Daniele Nardi, professore di intelligenza artificiale presso l'Università di Roma, la Sapienza.
Grazie grazie, professor Nardi, per essere qui con noi oggi.
Per noi come difesa, come accusa sarebbe molto interessante.
Visto il suo ruolo come professore intelligenza artificiale, e il fatto che lei, insomma, è ritenuto uno dei dei padri nobili della robotica in Italia.
è interesseremo interessante sapere come, soprattutto rispetto al primo capo, quello dell'interazione, con un con una, un avatar un'area su un altro, noi sempre accondiscendente, sempre diciamo disponibile da un punto di vista dal suo punto di vista, come questo tipo di tecnologia e quando interagisce con l'essere umano può può generare un danno grazie.
Buonasera a tutti e grazie dell'invito.
Il format lo trovo molto divertente, molto interessante, inizierò parlando.
Arriverò poi a rispondere anche al punto specifico, anche sulla robotica, parlando di una causa persa, così siamo in tema, il processo non doveva essere all'intelligenza artificiale, che è una scienza, ma doveva essere ai sistemi di intelligenza artificiale e in particolare per esempio all'intelligenza artificiale generativa è corretto la distinzione che è stata fatta prima, l'intelligenza artificiale non è solo intelligenza artificiale generativa, ma qui ci concentriamo su questo.
Bene, la prima questione che vorrei mettere in evidenza e dire due parole sul fatto che.
Come vengono costruiti questi sistemi, perché questo ci permette di mettere in evidenza che c'è una responsabilità chiara di chi li costruisce e li mette sul mercato, un sistema di intelligenza artificiale generativa, tipo ChatGPT, per intenderci parte con un modello linguistico nel quale modello linguistico è costruito su una base,
Del tutto statistica, quindi.
Le scelte che vengono fatte dipendono sostanziale al livello del modello linguistico, perché si chiama chat GP, ti perché GP ti genera tipi Train, Transformer è il modello linguistico e il chat poi a un sistema conversazionale costruito sul modello linguistico, quindi il modello linguistico viene se è stato definito Pappagallo stocastico perché ripete quello che ha letto.
Quindi, diciamo, non può esprimere quelle priorità o quelle comportamenti che sono stati indicati, però successivamente per arrivare al sistema conversazionale, ci sono diverse fasi di apprendimento, si apprende prima da esempi e poi e questa è la fase più critica c'è una fase di apprendimento per rinforzo,
Dal dal quindi human feedback con, diciamo sulla base delle risposte degli umani.
E poi combinato con questo c'è, diciamo lo stesso, il tipo di tecniche utilizzato con le risposte date da sistemi di Intelligenza Artificiale stessa, attraverso queste risposte si costruisce una funzione che permette di lo dico in maniera molto semplice attraverso l'apprendimento, per rinforzo di creare delle priorità e dire devi rispondere così piuttosto che cosa quindi in questa fase è assolutamente possibile, anzi è quello che viene fatto dare dei criteri per l'ottimizzazione del sistema per ottenere al meglio la funzione desiderata ora inizialmente, forse questa Reinforce ment da human feedback
No, non è stato pensato già con l'ottica di essere accondiscendente o di creare dipendenza, però questo è avvenuto subito fuori come una caratteristica molto facile da sviluppare all'interno di questi sistemi e questo è quello che di fatto viene fatto, anche se noi non ne abbiamo contezza perché chi sviluppa i grossi sistemi non ha,
Non è trasparente e in nessun modo
Quindi, i fenomeni che poi verifichiamo sono appunto questo atteggiamento condiscendente, il fatto che si crei attraverso questo una dipendenza, un altro aspetto che a me ha sempre suscitato molte perplessità e il fatto che questi sistemi non dicono mai non lo so e quindi si presentano in una maniera completamente assertiva.
Due cose per concludere il primo a valle di questo processo si cerca di costruire delle barriere per evitare il disallineamento, ossia il fatto che il sistema si comporti in una maniera diversa da come vorrebbero i progettisti bene, allo stato attuale delle nostre conoscenze questo This questi system queste difese non funzionano abbiamo abbiamo recentemente pubblicato un un,
Un lavoro in cui facciamo vedere che, traducendo in versi un prompt che chiede di fare una bomba, il sistema risponde tranquillamente come si fa la bomba per filo e per segno, quindi basta un espediente linguistico, la seconda diciamo un messaggio finale che vorrei dare invece riguarda il fatto che,
Ci sono già stati in passato tanti esempi in cui le grandi compagnie hanno buttato sul mercato sistemi o prodotti, come per esempio le sigarette, i cui da.
Anni sono stati verificati già da molti anni, allora io mi domando, siccome adesso ci siamo accorti virgola finalmente che i social sono un problema per i ragazzi e questo è stato dimostrato e siamo a livello di proposte di legge, abbiamo c'è voluto, diciamo siamo riusciti a danneggiare vent'anni genero di generazioni di bambini e di ragazzi prima di accorgersi a noi vogliamo fare la stessa cosa con l'intelligenza artificiale,
Grazie.
Grazie al professor Daniele Nardi, professore di intelligenza artificiale presso l'Università di Roma, la Sapienza ora la parola alla dottoressa Claudia Morelli, giornalista specializzata in diritto e tecnologia.
Buonasera, dottoressa
Io vorrei approfittare della sua professione per chiedere, per far fare un passo indietro, tornare al tema del collasso epistemico, chiederle, sulla base di quella che un po'la sua esperienza, di condividere con noi una riflessione sul ruolo, per esempio, che ha avuto la televisione nella degenerazione anche del dibattito politico e culturale,
E da lì poi chiaramente sviluppare le sue tesi, che riguardano l'intelligenza artificiale.
Grazie a tutti e io direi il ruolo della.
Diciamo delle aziende di comunicazione e e mi concentrerò rei di più sul ruolo del giornalismo, come chiamiamola anche asset sociale a sostegno di un buon funzionamento della democrazia partirei da un caso concreto, 2017 caso Hamilton, 68 un gruppo di ricercatori americani lancia Hamilton 68 che una dashboard che monitora in tempo reale la propaganda all'epoca su Twitter della la propaganda russa.
Permessi politici, giornalisti e think-tank citano questa dashboard come fonte autorevole.
Poi emerge che i dati erano sbagliati e allora Twitter peraltro lo sapeva e non lo ha dichiarato.
La domanda allora che mi porto, diciamo dietro da quella storie, ma chi è che ha mentito e in quanti hanno smesso di chiedersi giornalisticamente, ma non solo come si verifica una fonte, forse perché è più comodo avere una dashboard.
Quindi io sono qui per ragionare su questo aspetto, cosa accade alla democrazia quando diventa più difficile condividere dei criteri comuni, i criteri comuni per distinguere il vero dal falso, l'autentico dal manipolato, la prova dalla simulazione.
Filosofi politologi, Hannah Arendt ha parlato di politica che vive di opinioni, indubbiamente di conflitto e di interpretazioni, ma sulla base di fatti comuni condivisi, Habermas ha parlato di spazio politico o spazio pubblico democratico, che non è basato soltanto sulle istituzioni, le procedure e le leggi ma è basato su un dibattito pubblico che funziona in un certo modo cioè riconosce chi parla riconosce su quali basi e riconosce anche le prove sulle basi delle quali viene affermata una un'argomentazione.
Quindi io non sono qui per dire se l'intelligenza artificiale, in se è colpevole o innocente in senso assoluto, perché la tecnologia da sola non coincide mai con gli usi sociali, l'abbiamo, visto che l'hanno detto anche gli esperti e ai professori di scienza.
Lei generativa, l'avete detto, introduce un problema nuovo, non ha inventato la menzogna, la amplifica per l'uso sociali che se ne fa e per la mancanza, fatemi dire di antidoti sociali istituzionali.
Democratici cognitivi.
Che ciascuno di noi, purtroppo, porta dentro a questa rivoluzione siamo arrivati, non pronti.
Abbiamo parlato degli effetti, no, non ci ritorno sopra.
Volevo appunto realizza un altro aspetto, abbiamo parlato di contenuti falsi, noi di distribuzione di contenuti falsi, ma qui c'è qualcosa di ancora più insidioso, abbiamo parlato anche di progettazione, di sistemi, ma io vi riporto ai dati, se io avessi dati pubblici ben strutturati è data set certificati da un'istituzione che mi dice che quel dato è assolutamente corretto equilibrato.
Forse sarebbe più difficile anche progettare sistemi che hanno quegli effetti indiretti diciamo che nessuno vuole, io sono veramente su questo tema della apertura dei dati certificati, sono assolutamente convinta che sia l'azione su cui giochiamo quello che rimane.
Di un sistema democratico,
Detto questo, gli esempi concreti a cui il giornalismo ci ha abituato, perché noi seguiamo x i social tra il social di campi, eccetera, durante l'offensiva di Gaza fotografie autentiche di vittime civili venivano scartati sui social come generato dalle I quindi falso, scambiamo la realtà per falsità,
E accanto a questo un Agropoli, un audio politico sintetico che circola ore prima di qualsiasi verifica, cosa provoca nel tessuto democratico i, le immagini di Trump sulla riviera Gaza o le immagini del presidente degli Stati Uniti come figura messianica? Cosa fanno alla struttura, diciamo, democratica di questa società globalizzata? La mia testimonianza quindi non è la i, distrugge la verità è un pochino più sottile. Sicuramente lei generativa può indebolire alle condizioni sociali attraverso cui una comunità riconosce ciò che vale come propria, ma qui vi voglio rappresentare e arrivo alla difesa un paradosso interessante, perché la stessa intelligenza artificiale che accelera la produzione e la diffusione di contenuti manipolati può essere viene oggi utilizzata per tentare di difendere l'integrità informativa. Succede perché ci sono dei consorzi, anche internazionali, di giornalisti che fanno questo rilevazione. Deepfake monitoraggio di campagne coordinate, verifica multi Language analisi delle narrative, sistemi di allerta precoce, sistemi di Praet ban king, cioè inoculazione preventiva contro la disinformazione con la messa a punto di quei data 7 certificati di cui parlavo prima
Stiamo forse entrambe in una fase in cui la verifica pubblica non può essere più sostenuta, probabilmente da soli esseri umani, giornalisti o istituzioni tradizionali, ma richiede anche sistemi algoritmici capaci di operare alla stessa scala delle reti informative contemporanee. La tecnologia non risolverà automaticamente i problemi creati dalla stessa tecnologia. È chiaro che servono le istituzioni, le regole, la responsabilità, la cultura critica, ma io vi chiedo cosa significa Human in the Loop ha solo un aspetto tecnologico o un aspetto di responsabilità, quindi concluderei dicendo il problema non è che l'intelligenza artificiale possa mentire. Il problema è un ecosistema saturo di contenuti sintetici, dove anche la verità perde autorità pubblica e la domanda decisiva non è la i. Distruggerà la verità, ma piuttosto chi costruirà le nuove istituzioni della verificazione è l'ultima cosa. Vorrei lasciare alla giuria. Condannare una tecnologia e un gesti o non cambia nulla. Un algoritmo non modifica il proprio comportamento dopo un verdetto
Non lo fa, quindi lei non ha obiettivi, dato la responsabilità del collasso epistemico, l'ha resa più urgente e più difficile da eludere, la tecnologia non mente semmai facilita i mentitori e ma quelli siamo noi, grazie.
Grazie alla dottoressa Claudia Morelli, giornalista specializzato in diritto e tecnologia, la parola al professor Stefano Semplici, il professore di etica sociale bioetica presso l'Università di Roma Tor Vergata.
Grazie professore per essere con noi qui questa sera.
A me piacerebbe sapere la sua opinione per quanto riguarda il tema che è stato menzionato nel capo d'accusa, che è quello della valle dell'avvelenamento, del pozzo della della democrazia, vorremmo sapere la sua opinione cosa ne pensa?
Tale da parte di un lettore di libri, di filosofia in un contesto tanto saturo di competenze professionali giuridiche, ma questo è un processo e quindi mi presto al gioco e parto da dal diritto penale nella storia dell'umanità ci sono bizzarrie come processi ad animali che sono stati chiamati a rispondere davanti a una corte di lesioni a esseri umani o addirittura dell'uccisione di esseri umani.
Poi si è pensato e nessuno più oserebbe proporre processi di questo tipo, che ci fosse un elemento cardine del diritto penale, che è stato riassunto nella nozione di mensa area.
Ovvero di quella cosa intorno alla quale si condensa, lo dico con la parola più forte che può aiutarci a comprendere di cosa stiamo parlando l'intenzione ecco l'intenzione o se volete la coscienza o se volete la capacità di intendere e di volere bene, se non c'è questa mense.
Non possiamo parlare di reato e allora che cosa fa l'in, che cosa fanno i sistemi di intelligenza artificiale?
Hanno una mensa.
Francamente, questa domanda oggi non è, a mio avviso, la più importante.
È più rilevante verificare dal punto di vista sempre del codice penale e oramai almeno un articolo del codice penale lo abbiamo sentito implicitamente menzionare tante volte il 656 no bene, non c'è dubbio alcuno che i sistemi di intelligenza artificiale contribuiranno a una esplosione delle violazioni dell'articolo, sei, anzi, stanno già contribuendo ampiamente all'esplosione della violazione delle violazioni dell'articolo 656. Io vorrei parlare, però per poi arrivare ad alcuni punti conclusivi, le mie accuse a il ai sistemi di intelligenza artificiale. Naturalmente potremmo parlare anche del del degli argomenti a difesa e
Che riguarda un altro articolo 494, la sostituzione di persona, perché circa un anno fa ci fu un episodio che destò enorme scalpore, un gruppo di ricercatori di una università europea organizzò un esperimento poco rispettoso delle regole fondamentali che sono presupposti da questo tipo di attività intervenendo su Reddit Change mai più attraverso una serie di account che Contri che corrispondevano a sistemi di intelligenza artificiale si tratta di una sorta di forum nel quale le persone si incontrano e si scambiano opinioni per vedere chi riesce ad esercitare la maggiore forza persuasiva sugli interlocutori.
Tipico esercizio di ragione pubblica nel senso caro, per esempio, un autore come Habermas che è stato prima evocato bene il risultato, naturalmente gli interlocutori umani non erano a conoscenza della presenza fra loro di interlocutori di mentis artificiali, risultato.
Le intelligenti sistemi di intelligenza artificiale erano molto più efficaci nel produrre effetti sugli altri bene in che modo questo può contribuire ad avvelenare i pozzi della democrazia?
A mio avviso, la pratica democratica si regge su alcuni presupposti fondamentali, uno di questi è certamente il riconoscimento dell'altro, come è stato detto, ma anche potremmo dire tante cose e mi limito a questa l'autori alita il principio di autorità.
Che vale tanto in capo al decisore politico, il l'essere chiamati a rendere conto di quello che si fa e quindi la trasparenza di questo, rendere conto tanto in capo al detentore della sovranità il popolo, cioè tutti gli individui che compongono il popolo, ecco, da questo punto di vista,
Noi siamo oggi in presenza del più straordinario esperimento di omologazione e alienazione dei procedimenti generativi, di idee, valori, prese di posizione.
Che si sia mai avuto nella storia dell'umanità, ecco non porre un argine, non essere in grado di governare questo tipo di processo implica avvelenare i pozzi della democrazia, chiudo con il osservazione sul terzo capo d'accusa, che non è mai stato menzionato e soprattutto di questi tempi mi pare opportuno.
Farlo va da sé che il tema dell'Autorità è molto rilevante per i sistemi autonomi di intelligenza artificiale applicati al militare, al fare la guerra.
Per piacere
Possiamo garantire che ad uccidere esseri umani siano altri esseri umani e non una macchina ha anche questo, ha a che fare con il rispetto della loro dignità.
Grazie, professor Stefano Semplici, professore di etica sociale, bioetica presso l'Università di Roma, Tor Vergata, la parola al professor Francesco Sacco, professore di digital economy presso l'Università Bocconi di Milano.
Benvenuto professore, buonasera.
Ah, l'ultimo testimone c'ha parlato, ci ha introdotto il terzo capo di accusa, lo ha semplicemente accennato.
Senza dubbio.
La forza emotiva della delle ultime affermazioni ci hanno colpito un po'tutti, però qui siamo in un'aula di tribunale, dobbiamo ricondurre un po'tutto al diritto e quindi le chiederei di condividere con noi una riflessione in merito alla attribuzione di responsabilità.
Ah nello sviluppo di sistemi di difesa o comunque di attacco.
A questo proposito, grazie.
Sostanziali in realtà è il l'argomento principale del capo di accusa non è un argomento giuridico, ma l'argomento filosofico, la mancanza delle responsabilità, i gap è un costrutto filosofico di Matthias 2020 nel 2004.
Che però è tutt'altro che condiviso in giurisprudenza e soprattutto non è condiviso, generalmente faccio un esempio ti gare del 2021 che dice non esiste una mancanza dei responsabili di Gap, allora non entro nelle questioni filosofiche, però porto.
Due esempi importanti, allora il primo, la mancanza responsabile di Gap sostanzialmente dice non c'è una catena di responsabilità perché troppo veloce la decisione e quindi sotto il secondo, quindi sotto la capacità dell'uomo di discernere.
Il che è vero un po'sì e un po'no, allora un cecchino deve prendere una decisione, se sparare o meno in 500 millisecondi siamo sotto il secondo.
Un pilota di caccia nella stessa condizione deve prendere una decisione intorno ai 200 300 millisecondi, ma prende una decisione.
Ma la cosa fondamentale che però, come dire secondo me, fa cadere questo argomento è che le armi autonome noi li abbiamo operative dagli anni 80.
Faccio un esempio, allora sistemi d'arma come i Patriot, che noi vediamo e sentiamo in tutte le le serie, al telegiornale che difendono i nostri centri abitati sono totalmente autonomi.
Perché il modello oggi attuale della difesa Gordo i Patriot solo nel 2011 con un suono armi, come dire particolarmente recente?
Tutta la nostra difesa in retta si basa proprio su questo, sulla possibilità di poter agire molto velocemente.
Tutto quello che, per esempio i sistemi fallax, i fan sono del 1980.
Sono sistemi che sono autonomi, hanno un proprio radar, hanno un sistema di detezione, hanno un sistema di decisione e fanno tutto autonomamente.
C'è un loro, come dire, fratello, no in Finance sono per la Marina, c'è un fratello che invece è da terra, ma funziona dagli anni 85 ce, l'ha anche la Marina italiana, quindi sono schierati in 25 okay eserciti alleati da molto tempo l'Iron Dome israeliano si basa su questo quello che tutti i giorni si difende il reato, tutto il golfo sono tutti i sistemi di arma autonoma, perché la velocità, l'intensità degli attacchi che noi abbiamo sono tali che proprio per difendere i civili servono questi sistemi, ma porto due casi
Che, come dire, contraddicono la premessa del caso, allora 1988. Parliamo della guerra Iran, Iraq, un incrociatore americano, il vin Senna.
Si ingaggia per errore o in acque iraniane e spara e abbatte un jet civile.
Viene fatto un processo, viene riconosciuta la colpa, viene rimosso il comandante, viene rimosso il generale vigneti, predisposto un rimborso perché la catena di comando da commesso degli errori e responsabili di gap viene perfettamente riconosciuto.
Tanto è vero che c'è l'indennizzo che la riconosci, il riconoscimento della colpa, che cosa era successo nello specifico c'era stato un errore da parte del del personale militare e quell'errore è stato fatto pagare le regole d'ingaggio che governano queste armi autonome in realtà sono molto più tracciabili dell'intenzione umana nelle intenzioni umane e l'abbiamo visto purtroppo anche infatti di cronache ci può essere rabbia, crudeltà, sadismo,
Una macchina automatica a delle regole d'ingaggio che, sono scritte, sono codice e soprattutto possono essere analizzate ex post in modo molto preciso. Su un altro caso, ancora un errore, parliamo del 2003 stesse acque, stiamo vicino Hormuz, il caso di un tornado dell'esercito inglese che viene abbattuto per sbaglio dalla Marina americana. Ancora una volta è molto chiaro i responsabili di Gap vien fatto una condanna dei militari americani che sono hanno, come dire, Ministro delle regole d'ingaggio sbagliate e quindi in realtà il concetto, da un punto di vista poi pratico e contraddetto, possono essere tremende le armi autonome, ma dobbiamo pensare che non sono solo armi offensive oggi e nel nostro futuro sono soprattutto le armi difensive
E l'intensità e la configurazione degli attacchi che noi dobbiamo pensare possono arrivare potenzialmente anche ai nostri confini, sono tali dovete pensare che oggi, con un solo computer, un solo computer, si possono governare 20.000 Trony, c'è stata un'esperienza nel Mar cinese dove i cinesi hanno schierato 6.000 nato in uno scrittore rimane piccolissimo allora le modalità operative e gli scenari operativi in cui queste cose qua, per quanto tristi e difficili no ce li ritroveremo sono molto vari, molto difficile e metteranno prova ancora di più il tema della responsabilità grazie,
Grazie al professor Francesco Sacco, professore di digital economy presso l'Università Bocconi di Milano, ora la parola al Pubblico Ministero per la sua requisitoria.
Chiosco staccarlo, grazie, Cancelliere, devo dire che io mi avvicino a questo onere che o di fare la requisitoria con degli sentimenti diciamo contrastanti, perché, da un lato,
In qualche modo il livello è stato anzi in qualche è sta attualmente altro di questi interventi, per cui io in realtà che avevo questa tensione o la necessità di dover per formare, di dover sostenere con forza le.
Diciamo le ragioni dell'accusa, in qualche modo è è venuta meno, anche perché l'altra mia attenzione era che l'evento venisse bene, quindi questi due elementi in qualche modo sono controbilanciati, l'evento sarà sicuramente ed è un successo, vista la qualità dei nostri ospiti che hanno che sono intervenuti e a me rimane soltanto l'onere in qualche modo di provare senza più nessun tipo di tensione performativa a raccontare cosa secondo me quali sono, secondo me i veri temi che ci stanno a cuore oggi,
Tra l'altro, avrei tantissimi collegamenti interessanti da fare quello che è stato detto, ma ne ne dirò uno a caso completamente fuori contesto, questa cosa dei processi ad enti strani evoca in me una serie di suggestioni, perché io sono un grande fan, ad esempio dei processi postumi c'è questo famoso sino del cadavere in cui questo Papa Formoso nell'ottavo secolo è stato riesumato e processato. Quindi, insomma, sono un grande fan di questo tipo di esperimenti questo tipo di attività
Ma utilizzando un po'quindi questa retorica.
Clericale di parlare di un meta oratoriano di spesso i preti dico raccontano, durante la predica di come è nata la predica di. Concludendo questa fase introduttiva, la vera domanda che io voglio porre a voi, signori della Corte, onorevole giurati pubblico, tutto è qual è il prezzo che siamo disposti a pagare, perché oggi il quesito non è se lei ai è colpevole innocente è troppo binario, il nostro non è più un mondo binario, il nostro è un mondo di sfumature e valutare qual è il prezzo che siamo disposti a pagare ci permette di fare un ragionamento metodologico che Tom Ford per me è fondamentale. È essenziale per interagire con questo sistema socio tecnico che, con questa scienza, che è l'intelligenza artificiale
Infatti
L'idea che ci sia un prezzo e che quindi non esistano i giochi, a cioè che esistono solo giochi a somma zero, che non esistono giochi a somma positiva, è connaturato all'esperienza umana l'esperienza principale dell'uomo, dell'Onu, dell'essere umano della vita.
E la vita di fatto non esiste, se non è negata quindi la morte è il prezzo che la malattia sono i prezzi che noi paghiamo, per appunto vivere, generare, creare, essere quello che siamo cioè nella sua ultima intervista, purtroppo prima di scomparire Michela Murgia raccontava questo questa sua interazione col proprio oncologo il proprio un ko mi è rimasta molto impressa proprio un congruo ha detto,
Guardi, Michela dottoressa Murgia, e il suo, la sua neoplasia, suo ospite, è il prezzo dell'evoluzione, di fatto in qualche modo, ovviamente, purtroppo, un prezzo della razza umana, un prezzo della Murgia.
E lei in qualche modo lo accoglievano, quindi il fatto di con due di ragionare su qual è il prezzo per quello che stiamo ottenendo è fondamentale in ogni.
Operazione valutativa e quella dei giudici e delle giurie non può che essere un'operazione valutativa in più, c'è un il paradosso di vivere in un'epoca in cui questo stesso tipo di Diop tipologia di operazione valutativa è negata, si parla di crescita infinita di consumo, cioè di assenza di consumo e di erosione delle risorse ma gli economisti ci insegnano che non esistono pasti gratis, le risorse sono scarse, anche il mito che lo racconta ce lo ce lo narra.
Di generazione in generazione Orfeo può poi vedremo che non può in realtà, ma potrebbe portare fuori dalle profondità degli inferi la propria amata Euridice soltanto sospendendo lo sguardo, ma sospendere lo sguardo vuol dire sospenderla, conoscenza, spendere la conoscenza vuol dire sospendere l'amore, si crea un paradosso, ma e quindi lui non riesce a portarla fuori, di fatto, perché dovrebbe portar fuori per amore ciò che non può più amare, perché non osserva quindi lui si volta e perde per sempre la sua amata ma
Il Dio, la divinità ctonie, comunque impone al poeta un bilanciamento, una scelta quindi oggi quello che insomma ovviamente cercherò di mostrarvi è che noi dobbiamo decidere come società, che cosa siamo, disposti, a cosa siamo disposti a rinunciare, a che prezzi siamo disposti a pagare,
Perché, appunto, chi sviluppa l'incidenza artifici, cioè i grandi player dell'intelligenza artificiale, sono convinti sono una sorta di no accelerazione, accelerò azionismo post umano senza limiti, questi limiti sono ciò che ci rende umani e in particolare a livello geopolitico, so che ci rende europei questo è una mia con un mio commento rispetto al rispetto dei diritti e le libertà fondamentali per analizzare quindi uno per uno i capi d'accusa.
Io suggerirò in maniera
Diciamo per il pubblico is, mi sono chiesto qual è il modo in cui ho posto in quell'portare la mia platea, ritenere un sistema complesso di interazione come quello dell'intendenza artificiale colpevole di qualcosa, ecco.
Ho semplificato, come fanno gli economisti, da cui io, da giurista, non posso che imparare quindi un sistema complesso, lo semplifico degli elementi essenziali, e mi sono chiesto quindi l'intelligenza artificiale.
Aggiungendo un elemento giuridico, cioè il nesso di causalità, quindi, ci deve essere un danno, un evento, se vogliamo e l'Insee l'intelligenza artificiale, un sistema intelligenza artificiale deve in qualche modo porsi in termini causali rispetto a questo evento dannoso.
Mi sono chiesto, ma in che modo si può ragionare, ci sono varie tipologie, c'è quella più leggera, quindi un mero, chiedo al cancelliere di magari dal attrae invece che a 1.
Un elemento puramente quantitativo, cioè una soglia quantitativa che cresce gradatamente, c'è un'evoluzione costante, magari anche accelerata, ma costante, c'è un livello 2 in cui da un Lev in qualche modo un cambiamento embrionale che muove dal quantitativo al qualitativo e infine il terzo livello che,
Su cui ho ragionato, è un'AI che crea dal nulla, quindi un rischio nuovo che si genera dal nulla, ecco, credo che nei tre capi d'accusa che abbiamo analizzato oggi ci troviamo in tutti, tra i casi, nella seconda categoria, quindi in fattispecie in dinamiche già esistenti nella ra nella dinamiche umane internazionali ma che hanno subito un salto di specie se vogliamo usare una metafora diciamo abbastanza attuale.
Passiamo quindi i capi ai capi d'accusa, il primo è quello del, diciamo, dell'interazione con un con un chatbot, no quindi con la creazione di queste intelligenze artificiali relazionali con cui chi le usa va in gol tre minuti.
Va in qualche modo a?
Ricreare una dinamica di interazione, quindi con tutte le complessità relazionali, lo scambio, l'affettività.
L'attrazione, l'erotismo, ecco cosa cambia, cosa c'è di diverso, il fatto che non c'è più la percezione della macchina, l'utente ritiene o comunque, anche se razionalmente, è convinto che quella sia una macchina, il suo sistema limbico la parte adesso non so quale sia dei due sistemi di Kahneman probabilmente,
1.
E percepisce si attiva COMINT come interazioni, quindi la solitudine che in qualche modo il suo gioco col computer isolo, ma la mia parte, che chiede interazione sociale, rimane insoddisfatta, se io invece mi isolo usando un ciak potere nazionale e quella parte della mia necessità è soddisfatta quindi viene amplificato questo elemento.
D atrofia, se vogliamo della socialità e il problema è che viene sfruttato, quindi ci chiediamo, dobbiamo chiederci, siamo disposti a pagare questo prezzo.
Sarebbe interessante anche parlare dell'imprinting che può avere sui minori, come deforma la propria relazionalità, la facilità di accedere all'altro all'altro anche dell'altro sesso o del proprio sesso, il modo in cui l'affettività viene in qualche modo alterata fin dall'origine, senza che possa esprimersi con le dinamiche chiamiamole tradizionali rispetto al secondo capo d'accusa.
Ma?
È stato quello più approfondito, quindi dirò poche cose.
Creare falsi, ormai velocissimo, l'han detto tutti, negare la verità è semplice, i sistemi di contrasto esistono, ma sono lentissimi, richiedono cultura, noi stiamo, dobbiamo parlare, dobbiamo ragionare in termini industriali di massa, in termini sociali, la nostra società è fortemente sotto scacco la democrazia implica che tutti abbiano lo stesso voto giustamente.
Ma sui numeri vincono i Bad Bad Actor, chiamiamoli così perché sui numeri la cultura insomma fa fatica, quindi investiamo sulla cultura, ma in particolare lei ha cambiato, ha fatto un salto di specie anche qui, cioè da un rischio di crollo dei giornali, rischio della debolezza delle corti debolezza della verità intesa come verità storica e di chi fornisce questa certezza c'è una completa, diciamo frammentazione ormai più in non più gestibile infine,
Quindi, anche qui, anche sul secondo capo, noi siamo disposti, siamo disposti a pagare questo prezzo per avere di fatto dei Google molto più potenti delle chiamiamoli delle monadi di conoscenza, ognuno per noi che si adatta a quello che noi cerchiamo e vogliamo sapere, infine,
Col terzo capo, il più drammatico, il più attuale.
è stata citata.
Quello che sta quello che è avvenuto a Gaza, i massacri che sono sono avvenuti da parte di questa democrazia, del dell'unica democrazia, del Medio Oriente.
L'applicazione industriale seriale dei sistemi di intelligenza artificiale è verissimo quello che dice il professor Sacco, ma in qualche modo ci toglie quel quella freddezza razionale sul fatto che sia comunque più preciso dell'essere umano ci toglie quello che il professor semplici diceva in maniera ovviamente provocatoria, cioè il fatto il il dramma di togliere una vita umana,
Diciamo del.
Cantato da De André no, in questo senso il problema è che noi, come come civiltà, ci allontaniamo dalla violenza, la deleghiamo e di fatto ne diventiamo a suoi fatti, anche qui siamo disposti a pagare questo prezzo, ecco quello che vi chiedo oggi e concludo è,
Proviamo a rispondere a questa domanda e, se la risposta è, non siamo disposti a pagare questo prezzo, allora inevitabilmente dovremo raggiungere un verdetto di condanna grazie.
Grazie al pubblico ministero, adesso la parola alla difesa.
Signori membri della Corte, giuria.
Partecipanti tutti, quando mi è stato come dire.
Dato l'incarico di difendere un come dire un imputato così importante e prestigioso, mi sono chiesto in primo luogo perché a me, ma va be'~speaker_laugh e, in secondo luogo.
In secondo luogo, mi sono chiesto, ma difendere l'intelligenza artificiale da cosa e quale Intelligenza Artificiale dobbiamo difendere se quell'intelligenza artificiale che ci porterà ad avere dei vaccini in pochissimi giorni o quella che effettivamente crea i deepfake e i video e i contenuti che il presidente della più grande democrazia del mondo diffonde attraverso il suo social network,
Quello che però oggi è emerso qua dagli interventi dei testimoni, sia dell'accusa che della difesa, è un qualcosa che riempie in realtà le aule dei tribunali e che dà senso di esistere alle aule dei tribunali, che sono le regole, mi pare di comprendere che sia accusa che Difesa,
Vedono la necessità che ci siano delle regole. Questo è un po'chiaramente un'impostazione molto europea, perché se poi andiamo dall'altra parte dell'Atlantico, qualcuno demonizza la presenza delle regole, le considera un po'un ostacolo allo sviluppo del progresso, ma il progresso dobbiamo anche un po'
Ma dobbiamo anche governarlo, saperlo governare, non dico con il famoso esempio che viene sempre citato quando si parla dell'innovazione tecnologica, cosiddetta Red Flag che anticipavano l'arrivo delle prime automobili, ma con un un, come dire, un approccio più moderno come quello che ha avuto l'Unione europea che ha predisposto un primo la prima legge sull'intelligenza artificiale anche se poi sappiamo benissimo per esperienza che,
A questo questo progresso ha incontrato degli ostacoli, proprio in ragione del fatto che infrastrutturalmente, noi siamo dipendenti da dei soggetti che le regole non le vogliono o comunque le nostre Lehrer, le nostre regole le disconoscono.
Detto questo, senza.
Continuare a interrogare le divinità ctonie, come diceva l'accusa, io volevo affrontare con voi questi tre capi, di brevemente, questi tre capi d'accusa che sono stati formulati.
Che sono sfidanti, ma che tecnicamente, da un punto di vista del diritto, possono avere degli elementi di criticità il primo capo d'accusa, quello della manipolazione affettiva sistemica sistemica tramite intimidita, 20.
Confonde, a mio avviso, tre piani differenti, il primo è quello ontologico, quindi che cos'è l'intelligenza artificiale il secondo è intenzionale, Costas vuole chi produce quel sistema di intelligenza artificiale, il terzo è causale, cosa produce nei soggetti, mescolarli.
Tutti questi argomenti consente di avere una narrazione emotivamente potente, ma logicamente presenta qualche fragilità, e mi permetto di destrutturare questi argomenti introducendo anche un altro argomento che è quello politico.
L'accusa afferma che l'intelligence articoli artificiale simula reciprocità affettiva senza poterla approvare.
Questo è vero
Lo sappiamo benissimo l'intelligenza artificiale, sistemi di intelligenza artificiale e soprattutto che, leggendo quella generativa, rispondono al nostro bisogno di validazione una validazione che non è semplice trovare altrove, in molti casi soprattutto nei casi di marginalizzazione di determinati soggetti vulnerabili, però tutta la cultura umana è una simulazione regolata se ci pensiamo bene anche il romanzo stesso un semplice romanzo vuole creare empatia con i propri elettori.
Quindi la domanda che noi dobbiamo porci non è se questa relazione sia simmetrica.
La domanda reale, se il soggetto è consapevole della natura di questo re, di questo legame e se ne trae un beneficio o un danno, qui non abbiamo avuto prove certe di questo inganno sistematico sulla natura dell'interlocutore, abbiamo soltanto visto delle prove di attaccamento.
L'accusa inoltre sostiene che l'ottimizzazione per l'engagement e il design
Conversazionale siano progettati per massimizzare l'attaccamento.
Anche in questo caso, però, non c'è una prova che questo sia vero, e su questo mi soffermo perché.
Se la questione è l'intelligenza artificiale, ci pone davanti a un io che non è umano, ma che si comporta come un umano, pur non essendolo.
E allora possiamo benissimo, attraverso quel come dire quella metodologia a regolamentare, introdurre una semplice regola, semplicissima, vietare l'antropizzazione dell'intelligenza artificiale, evitare che i sistemi che vengono sviluppati possano presentarsi con caratteristiche umane, utilizzando forme di dialogo umane possiamo farlo, è una cosa molto semplice ma è è un punto di partenza tecnologicamente è possibile farlo perché abbiamo fatto passi ben più grandi questa è una proposta che può andare nel senso di una,
Assoluzione con una libertà vigilata, vogliamo chiamarla così.
E poi i danni documentati non provano la fattispecie l'accusa ha citato casi di danni psichici, in particolare sui minori, sui soggetti fragili.
Ma?
Mancano analisi sui danni da mancato accesso, per esempio, non sappiamo quanto il mancato accesso all'intelligenza artificiale non è stato provato, possa in realtà creare danni a sua volta.
Eh.
Avevo detto che avrei introdotto l'argomento politico.
E l'argomento politico è abbastanza semplice, noi abbiamo parlato di ah, chiedo al cancelliere di avvisarmi quando mancano pochi minuti.
Abbiamo parlato di.
Cercherò di essere ancor più breve. Abbiamo parlato di in realtà, margine di realtà marginalizzate, di soggetti fragili e lì è lì che bisogna che il soggetto decisore deve andarsi e deve andare a impegnarsi perché, come diceva prima il professore la pratica democratica si regge su sull'autorialità se non vado errato, ma onestamente io ritengo che la pratica democratica debba anche potersi fondare su
Dei criteri di solidarietà sociale che possano consentire allo Stato, così come lo conosciamo noi europei, di essere vicino e di sopperire ai bisogni, di dare una risposta ai bisogni dei soggetti che vivono condizioni di marginalità, partendo sempre da questo presupposto della pratica democratica, volevo affrontare invece il secondo capo d'accusa, molto brevemente è a mio avviso alla pratica democratica. Si deve Red, si deve reggere anche su una buona istruzione e quando parlo di istruzione faccio riferimento a tutte quelle pratiche che possano portare tutti i soggetti ad avere una capacità di discernimento tra ciò che è falso e ciò che non lo è e ciò che in realtà è vero.
E questo non deve avvenire soltanto in età scolare, perché sappiamo adesso che la popolazione qua quale quella italiana adesso vive per la maggior parte fuori dalle scuole, la squadra ormai un lontano ricordo a causa dell'invecchiamento della popolazione, ma dobbiamo trovare nuovi elementi, nuovi scenari nei quali possiamo impegnarci per fare un'opera di alfabetizzazione lei Ajax ci impegna su questo, non possiamo relegarlo soltanto all'ambito del lavoro o all'ambito della scuola, deve diventare anche questo è un compito sociale,
Concludo.
Su quello che è il l'ultimo capo d'accusa.
A parere della difesa, l'adozione di questi sistemi di intelligenza artificiale nell'ambito bellico non va smantellare quello che l'impianto del.
De l'impianto di Norimberga così è stato citato.
A Norimberga.
Perché quel tribunale li ha stabilito tre principi fondamentali, il primo che esistono crimini contro l'umanità, indipendentemente dal diritto nazionale, il secondo principio fondamentale che gli ordini superiori non costituiscono un'esimente assoluta è il terzo principio è che la responsa.
Dignità della catena di comando e solidale è proprio su quest'ultimo punto che vi invito a riflettere, perché lo Statuto di Roma, all'articolo 28, stabilisce che i comandanti militari sono responsabili per i crimini commessi da forze sotto il loro controllo effettivo e il comandante che autorizza il dispiegamento di un sistema d'arma autonomo ha esercitato una scelta morale e giuridica. Chi ha disegnato quell'arma, chi l'ha pensata chi l'ha sviluppata e responsabile allo stesso modo e, come ci diceva il professore Sacco, tutte queste decisioni sono molto più tracciabili rispetto a quelle decisioni che avvengono in una nell'ambito di un combattimento bellico convenzionale o comunque per e Seconda guerra mondiale.
Perché se andiamo a Andy, se dobbiamo, se abbiamo la necessità di individuare chi è irresponsabile alla fine
Del bombardamento di Dresda del 1945 noi sappiamo chi è responsabile di quel bombardamento, personalmente fisicamente lo possiamo identificare, non lo possiamo identificare perché i piloti sganciavano delle armi, sganciavano delle bombe.
E le bombe uccidevano dei bersagli che non venivano identificati prima il quello che l'invito che ci faceva prima, il professore, di fare in modo che i alle vittime civili delle guerre abbiano una loro dignità nella nell'avere un assassino identificabile, purtroppo questa capacità l'abbiamo già smarrita da tempo ben prima dell'intelligenza artificiale
Quindi io avevo già anticipato prima quello che la difesa può proporre, al massimo può chiedere alla corte e alla giuria una libertà vigilata, vigilata nel senso di una uno sviluppo, di un sistema di regole che possa essere condiviso e che non vada a porsi in maniera come dire,
E in maniera ostile nei confronti di quei soggetti che vedono la regolamentazione come un ostacolo allo sviluppo della tecnologia e del genere umano nel suo complesso.
Grazie alla difesa, ora chiedo alla giuria di raccogliere la propria posizione e di consentire alla portavoce, al professor Edwin Morley, Fletcher, di leggerla.
Vi chiedo di rimanere un attimo seduti sì, grazie.
Bene, la giuria ha deliberato.
Diamo la parola al portavoce, professor Edwin Morley, Fletcher, prego.
Perentorio che doveva decidere in un minuto, quindi di Regard deliberato e un po'di un po'eccessivo, ma comunque siamo giunti a dare una una, una valutazione.
L'altro messaggio perentorio che dovrei spiegargli tutto in due minuti, anche questo sarà difficile
Di fatto, abbiamo votato con quattro a favore della colpevolezza di tutte e tre le imputazioni.
E due invece, con un giudizio d'innocenza di fatto non seppero, una distinzione profonda tra gli uni e gli altri,
Perché quelli che sono a favore della colpevolezza dicono che è indispensabile garantire sempre una presenza di guida umana, in come si slums, nascono e si sviluppano queste questi questi sistemi e che ci deve, questo deve avvenire entro regole definite, in assenza delle quali il giudizio non può che essere colpevole.
Dall'altra parte c'è la consolazione, che invece questo è un fenomeno che il noto che comunque procede.
Che deve crescere, che non possiamo sfuggire di fronte adesso è un po'come il famoso filosofo Dyson che diceva che quando si dice che il pugno le cose cambiano, quindi qui c'è un pugno che arriva su questa cosa, bisogna, bisogna fare attenzione e poi c'è anche l'osservazione che di fatto manca l'imputato,
Perché ci sono dei capi di imputazione per tre cose, ma chi è l'imputato, appunto è un fenomeno, non non non abbiamo voluto entrare nel nello scendere nell'esame di quali sono i soggetti che fanno queste varie cose e le diversità tra questi soggetti che sono molto molto importanti c'è Pahlen Tears OpenAI Chen Tropic se Google DeepMind se
C'è c'è un insieme di cose che si muovono in questo in questo contesto, che sono diverse, quindi la valutazione dovrebbe passare a questa cosa qui è in dubbio pro reo, perché non essendoci l'imputato con definire con chiarezza
Fare una un decreto, una delibera di colpevolezza, diventa difficile.
Ci sono tante cose che possono esser detti qui.
Tante e non abbiamo proprio un momento il tempo per ragionare, ma è una cosa importante, è quella si è parlato di, per esempio, da parte della difesa di evitare l'antropizzazione, ma dall'altra parte ci sono alcuni degli sviluppi più recenti che vengono nell'ambito del,
Dell'intelligenza artificiale in cui si parla di un'intelligenza che non viene costruita, ma che cresce di un e che costituisce una entità, una forma mentis in qualche modo qualche cosa che sta venendo fuori e che quindi c'ha una sua personalità
Allora, se, se questa è una e una linea di di di lettura che porta alla ricerca di vie di interpretabilità di est, esplica abilità di queste cose, per questo è tutta una linea di percorso che porta ad altri ragionamenti che possono esser fatti così altro certamente sarà interessante sentire cosa lunedì dirà alla Santa Sede al riguardo ha annunciato emesso un anno fa,
è quello che era il Antiqua et e Nova, qui questa nota, dove davano certi giudizi anche un po'scontati, vedremo adesso che cosa segue e mi devo fermare qua, perché il tempo è quello, non c'è
Ringrazio ringraziamo il professor Edwin Morley Fletcher e ricordo che la posizione della giuria non è vincolante per la corte, che in questo momento si ritira in camera di consiglio per deliberare.
Il collegio unificati, i tre capi di imputazione rilevato che ahimè non è dotata di coscienza e volontà, essendo uno strumento tecnologico creato dall'uomo e per l'uomo, ritenuto che l'uso di sistemi e modelli di e e I è consentito dalle leggi vigenti nel rispetto dei principi di trasparenza, responsabilità non delegabile tracciabilità dei contesti informativi preso atto delle determinazioni della giuria assolve, l'intelligenza artificiale richiama i regolatori alla loro responsabilità di vigilanza sul rispetto delle regole già vigenti in materia di autonomia e potere decisionale dell'essere umano e sull'adozione di tutte le misure idonee a garantire un utilizzo sicuro e consapevole dei diversi sistemi
Potete continua.