Puntini sull'AI - Chi Giudica l'Algoritmo? Autonomia e Responsabilità nell'Era dell'IA

Come si trasforma la responsabilità delle persone quando le decisioni sono prese da dispositivi tecnologici basati su sistemi di intelligenza artificiale
Come cambia la protezione dei dati e delle reti quando affidiamo la sicurezza informatica a sistemi di intelligenza artificiale
Nella puntata di oggi esplode Remo le sfide della giustizia penale nell'era dell'intelligenza artificiale ciao io sono Marco Cerrone e queste puntini sulla i rubrica di radio radicale che vi guida alla scoperta dell'intelligenza artificiale un punto alla volta
Affrontiamo i temi di oggi con l'avvocato Andrea Castaldo professore ordinario di diritto penale presso l'Università degli studi di Salerno
Grazie professor Castaldo per la sua partecipazione grazie a voi volessero tutti in precedenza qui appuntini sull'ai abbiamo trattato il tema della giustizia predittiva e gli impatti Delia nella giustizia civile
Oggi prima di addentrarci sul tema della responsabilità nell'era dell'intelligenza artificiale vorrei chiederle se può aiutarci a fissare alcuni concetti di base che possono aiutare le ascolta attrici gli ascoltatori
A comprendere quali sono le principali opportunità e le sfide che l'intelligenza artificiale presenta per la giustizia penale
Sì molto volentieri cominciamo col dire che naturalmente cambia molto lo abbiamo visto con l'esperienza del colpito dove i processi penali erano trattati in larga parte a distanza
Io sono solito dire che una sfida della intelligenza artificiale di come incida nella giustizia penale il taglia e cuci che intendo dire abbia il tailleur significa che ovviamente con la
Senza della presenza fisica cioè con il fatto che si possa dialogare stanza
Come stiamo facendo noi in questo momento
Attraverso uno schermo viene meno quella empatia e anche la percezione proprio i gesti che io faccio seguito trasferiamo nel campo del processo penale dove è molto importante la psicologia della testimonianza
Cioè guardare o nella cross examination o guardare la reazione
Ebbene incerto questa è una diminutio perché non riusciamo a cogliere Vattimo all'emotività di una risposta tremolio nella voce e tutti questi altri spetti però al tempo stesso io in questo sequestro era il tailleur il Cucci è molto importante una risorsa
E la possibilità al netto degli aspetti diciamo sentimentali della possibilità di chiunque di sentire chiunque di con una videochiamata di parlare con chiunque in ogni parte del mondo
è certamente velocizzata e rende più semplice pensiamo il coordinamento delle forze dell'ordine attraverso l'abito a Roma
Non è più necessario recarsi in un posto per uno scambio di informazioni e molto più diretto più veloce più goffi sensi più immediato penso che volendo
Trovare una chiave di interpretazione questo lo slogan ma ti amo ripetere del taglia e cuci fotografi nitidamente quello che sta accadendo dei processi penali
Oggi sempre più dispositivi tecnologici stanno acquisendo livelli di autonomia maggiori ne sono un esempio le auto guida autonoma ma anche altri tipi di Macchini o robot otto che sono utilizzati nel settore dei trasporti della logistica della medicina o in ambito militare
Su questo vorrei chiederle se ritiene che i principi tradizionali del diritto penale debbano essere rivisti
Ed eventualmente quali misure potrebbero o dovrebbero essere adottate per garantire una responsabilità adeguata in questi nuovi
Con testi
Prima di darle la parola come abbiamo fatto anche nelle scorse puntate ascoltiamo il tra virgolette sparire di un Large language model quindi il sistema di intelligenza artificiale
In questo caso abbiamo chiesto al modello Mistral è stato sviluppato dalla start-up francese Mistral e agli e poi i sentiremo il suo parità
Credo che sia necessario rivedere alcuni principi del diritto penale adattarsi a questi nuovi contesti ad esempio lo potrebbe essere utile introdurre il concetto di responsabilità del produttore ho responsabilità del programmatore
Dove chi sviluppa o incrementa il sistema autonomo è ritenuto responsabile per le azioni del sistema stesso
Inoltre potrebbe essere necessario creare nuove categorie di reati specifici per i sistemi autonomi come la negligenza algoritmi Ca'o la manipolazione intenzionale dei sistemi di intelligenza artificiale
Un'altra misura potrebbe essere l'implementazione di scatole nere nei sistemi autonomi simili a quelle degli aerei che registrano tutte le decisioni e le azioni del sistema
Questo permetterebbe di tracciare e analizzare le cause di eventuali incidenti o comportamenti dannosi facilitando l'attribuzione della responsabilità
Ecco questa è la risposta diciamo statistica artificiale di questo tipo di sistema lei che cosa ci dice
Non tanto della risposta indire sa anche perché conosce ciò che dice l'algoritmo e ovviamente molto importante
Soprattutto per una ragione abbastanza banale e siccome è sempre l'uomo che dietro la macchina e che istruisce la macchina può dare un set informativo
Risponde adeguato proprio in considerazione di ciò che oggi ha detto Lachina
Né io se con il esercitando il mio mestiere di corruzione diversi Dario un supera resa cioè tu non hai il trenta o il trenta e lode bandire i come il primo approccio un ventiquattro venticinque nove ha detto delle cose Bruno che sono seni corrette all'inizio dei tuoi si dovrebbero introdurre la responsabilità del produttore del programmatore utilizzatore c'è già quindi non è che sia un qualcosa che però per esempio è interessante la creazione di nuove fattispecie come la negligenza
Che il tipo di programmazione o alla intenzionalità mani collettiva come detto sono riflessioni corre vengo alla alla alla mia le mie riflessioni come spie
Noi stiamo lavorando molto sul noi dico noi non come plurale maiestatis ma come cattedra di Diritto penale dell'università di Salerno abbiamo presentato un Pepe ma ad un congresso mondiale proprio sull'intelligenza artificiale
Dove abbiamo cercato di individuale lei vide possibili linee guida di politica criminale la responsabilità penale
Facciamo un esempio
Molto evidente per comprendere ciò che stiamo dicendo e cioè del surf da rincalzo nel momento in cui una intelligenza generativa di ultima generazione capace di auto prendere i autoregolarsi e dunque di decidere il tema di fondo bene
Come tratto la responsabilità della decisione sbagliata o della decisione che provoca delle lesioni o un incidente mortale e questo il tema molto affascinante
Le posso dire quella che è la nostra linea programmatica la nostra soluzione
Noi potrebbe sembrare provocatorio ma riteniamo che il vitello Price proprio per lo sviluppo dell'intelligenza artificiale una sorta di rischio consentito cioè di rischio al di sotto del quale non scatta la responsabilità dei come cerchiamo con l'algoritmo che stiamo sviluppando con la formula matematica e adesso non vorrei tediare chi ci ascolta
è molto semplice nei principi guida noi diciamo guarda che nuovo fatto statistico innegabile sbaglia più che la macchina
Quindi noi già introducendo una zona di impunità o se preferisce di rischio consentito siamo aiutando perché stiamo comunque creando una incidentalità minore rispetto a quello attuale se la macchina si sostituisce all'uomo
Pensiamo nella medicina come lei ha detto nell'infortunistica o soprattutto nella aspetto stradale della circolazione stradale miglioria
Poi però
Per quanto riguarda questa impunità che non deve essere totale ma che è una soglia di rischio consentito noi faccio un esempio se diciamo che statisticamente si verificano mille incidenti mortali legati alla circolazione stradale
Guida umana
Noi dobbiamo ritenere che siamo disposti ad accettare un limite molto inferiore mettiamo cento quindi questi cento incidenti devono essere in qualche modo ritenuti non punibili ovviamente con le misure di indennizzo azioni assicurative risarcitorie civile cioè e poi che cosa facciamo
I ho concluso nel nostro Progetto stabiliamo che questi cento cioè questa quota di impunità totale vada ospitata in relazione a tutti i produttori se mettiamo che nessun ce ne sono dieci che producono queste sei febbraio in caso ognuno ha un bonus di cinque incidenti potenzialmente letali
Oltre ai quali scalzi sesto sarà comunque punibile ora che cosa succede no e quindi diciamo che ha questo bond su questo fra i dipendenti come vogliamo chiamarlo
Sicuramente migliore all'aspetto della circolazione ma poi prevediamo anche che nel momento in cui si sia verificato questo incidente letale il ci dovrà esserci una discovery del produttore specificare perché l'algoritmo sbagliato metteranno a disposizione della comunità quindi migliorare la macchina in modo tale che non faccio più quelle questo è può banalizzare ciò che il nostro la vostra linea comportamentale
Molto interessante tra l'altro sarà davvero utile capire poi come a evolverà diciamo questo tipo di discorso a livello europeo a livello globale e proprio sulla contesto europeo con l'approvazione dei LEA tra sono stati delineati una serie di limiti dell'uso dell'intelligenza
Artificiale quelli che vorrei frontale con lei oggi sono relativi a quelli delle forze dell'ordine in particolare riguardo all'identificazione biometrica e alla polizia predittiva
Puoi
Aiutarci comprendere meglio cosa prevede lei Act su questi aspetti fornendoci anche un suo pari re in merito
Sì volentieri anche questo è un tema molto delicato molto particolare in una parola ne abbiamo un bilanciamento di interessi
Sopita di cemento di interessi significa che da una parte non cerchiamo come forze dell'ordine capacità predittiva di evitare dei reati quindi di evitare che ci siano lattine o attacchi terroristici
Attraverso la individuazione di sospetti pericolosi dati situazioni particolare
E dall'altra c'è oltre la possibilità di un errore di investigare qualcuno che non c'entra niente il tema della privacy si gioca tutto su questi due piatti della bilancia e su quello nel quale crediamo di più quindi anche una scelta politica quella di dire noi preferiamo che vi siano ma che si smentì anche un unico attentato terroristico ma al tempo stesso accettiamo l'idea che cento vengano investigati vengano trattati nei loro dati biometrici per tali finalità
Del resto del resto come sa lei come sanno i nostri radioascoltatori tela spessa identica problematica che si pose quando entra ahimè dopo la e Twin Towers il di moda tra virgolette o il rischio di attentati terroristici
E si nel caso di resa io nego da parte dei terroristi
Sbilanciamento e si sapeva che magari stavano per schiantarsi il tema di fondo eh ok mandiamo dei caccia che immediatamente al segnale di non riconoscimento bombardano
Distruggono questa potenziale minaccia sacrificando passeggeri o tuttavia aspettiamo sacrificando lo stesso i passeggeri e tutti gli altre vittime in Corte
è un po'il più elevato
Comunque
Nel caso come diceva lei l'idea e a per crea una che dura di Ricci cioè vi sono o dei rischi sono quattro categorie rischi minimi limitanti alti e inaccettabile
E sulla base della declinazione di questi rischi si stabiliscono quelle che sono le misure atte a fronteggiare ora non c'è dubbio che tutto si gioca sui dati biometrici i dati biometrici
Il le impronte digitali Brown la scansione dell'iride la geometria della mano la scansioni il riconoscimento facciale soprattutto che vediamo anche in alcuni avevo colti sono i tratti distintivi vira verso le novità del Regolamento e che si differenzia tra alla identica la possibilità di un'identificazione biometrica in tempo reale o in cosiddetta differite la novità perché resto se in quel momento Doi
Stiamo vendendo qualcuno che sta ponendo un ordigno esplosivo beh è evidente che questo è il discorso
E il tempo reale o se per esempio abbiamo un kit Leprino una ipotesi di rapimento di tratta di esseri umani cioè tutte quelle situazioni di urgenza e di immediatezza e allora la l'identificazione in real-time deve avvenire può arrivare anche cioè deve essere richiesta questa autorizzazione all'autorità giudiziaria e l'autorità amministrativa
Successivamente anche nello spazio di ventiquattr'ore successive ma ci deve essere cioè la situazione di urgenza gesti giustifica l'immediatezza ma
Murdoch esclude che nelle ventiquattro ore successive occorra un'autorizzazione il meccanismo
Pressoché identico rovesciato nelle ipotesi di tratti Biomed dati biometrici doni in tempo reale ma in differita qui va chiesta prima l'autorizzazione e poi si procede ora è inutile che ci giriamo intorno il vero problema come noi ognuno di noi può facilmente comprendere
Che
La responsabilità di chi di da l'autorizzazione successiva o l'autorizzazione immediata
E comprende se effettivamente e necessario nel sacrificio della privacy di quel soggetto perché vi è una un caso entrante tra quelli che autorizzato facoltizza con ciò effettivamente molto difficile vorrei semplicemente aggiunge
Se posso che vi sono in questo allo spettro della Regolamento dei vantaggi e degli svantaggi i vantaggi sono dà sicurezza cioè vietato biometrico è difficile da falsificare quindi vado target sicuro
La comunità
E la efficienza cioè la ma pulsionalità
Nel ottenere subito tutto ciò gli svantaggi sono la privacy il rischio di discriminazione l'abbiamo visto nel caso Loomis Louis consegna o i e i costi elevati
Tutto ciò
In corso economico molto fu un ultimo puntino sulla i che vorrei porre con lei legato alla sarde Security
Secondo il Global risk riporto due mila ventiquattro del World Economic Forum ma i cyber attacchi sono tra i principali rischi globali al quinto posto
Subito dopo gli eventi meteorologici estremi la disinformazione aedificandi uso generate dall'intelligenza artificiale la polarizzazione sociale politica
E la crisi del costo della vita sul fronte della sapessi Chiuri di i dati più recenti evidenziano come le minacce informatiche e non solo si moltiplicano e diventano sempre più sofisticate lei proprio su questi temi ha recentemente coordinato un corso di formazione di eccellenza sai Just Susser del Security e cyber crime ma promosso dal suo dipartimento di scienze giuridiche dell'Università di Salerno
Proprio per affrontare questi temi la domanda che le pongo è come ritiene che l'intelligenza artificiale possa essere impiegate in maniera efficace nella prevenzione e nel contrasto di crimini informatici e a che punto è l'Italia su questo fronte
Beh intanto come lei ha detto aggiungo soltanto che purtroppo l'Italia è un po'nel mirino degli hackers Cerere dello scorso anno
Di attacchi gravi globali sono che sono andati a segno solo noi non prendo di forte crescita
Questo non so come si debba interpretare se siamo Eboli noi con me nel strumentario di difesa o se invece siano ormai sempre più raffinate e affinate le tecniche di bucare il sistema di prevenzione di difesa
Fatto sta che dal lato della criminalità e anche questo è un rivoluzione nella tradizionali concetti di criminali dai quali noi siamo abituati a sa perché per esempio della criminalità di questo tipo cioè pensiamo al phishing per esempio alla possibilità con costi bassissimi
Di attaccare una quantità e con una seria ritardi episodi terrificante se noi pensiamo al concerto tradizionale di fonto e colui che studia la vittima basse mette a segno
Una soltanto in un arco temporale Sanza dilatati qui noi possiamo colpire decine di migliaia di persone con la stessa tecnica con un po'
A costi molto bassi non c'è dubbio quindi che occorre potenziare i nostri sistemi di difesa di prevenzione quello che noi abbiamo cercato di fare anche dando dei suggerimenti pratici dei consigli pratici su come evitare
Tutto ciò
La il coinvolgimento della intelligenza artificiale è senza dubbio indispensabile perché l'intelligenza artificiale può processare sia il nostro sistema
I difesa pentire e adeguato o no oppure può implementare che suggerirci quali sono gli strumenti idonei quindi l'intelligenza di viale purtroppo
E uno ha due facce
La criminalità Rho sul terremoto e soprattutto senza disco Poli che noi ci dobbiamo fare dico garanzie della privacy alto e dall'altro hanno voi che faticosamente cerchiamo di reagire in modo
Prima di concludere questa puntata come sempre vorrei lasciare a chi ci ascolta una risorsa utile per approfondire i temi che abbiamo affrontato oggi e che ovviamente non possono esaurirsi nel tempo che avevamo a disposizione e quindi vorrei chiederle
Lei cosa ci suggerisce di vedere leggere ascoltare per continuare ad approfondire a mettere i puntini sulle ali su questi temi
Ma se facendo una battuta ma che è una battuta che ci sta
In termini di capacità predittiva Minority Report che univa spilla simpatico da tantissimo barche straordinariamente attuale e che soprattutto per il neofita
Fa con due occhi colui che si vuole avvicinare a questo mondo far comprendere come problematiche respinte
Sia lo lo state anticipate già con una margine di tempo incredibilmente tanti anni fa di ripeto di di nome straordinaria attualità
Leo ci sono coi
Soprattutto vedendo più sulla se io
La multidisciplinarietà dell'intelligenza artificiale rende necessario che sia d'approccio multitasking cioè che si abbiano delle conoscenze informatiche delle conoscenze criminologiche delle conoscenze giuridiche però e qui due concludo
A beneficio non me ne vogliano i nostri vario ascoltatori io direi il consiglio migliore quello di spegnere il computer
Accendere il cervello leggere ragionare senza l'ausilio di tutti questi sistemi formarsi un proprio convincimento sulla base della ragione e dopo andare a vedere che cosa ci dice il nostro motore di ricerca Orcia
Bene io ringrazio per il suo prezioso contributo l'avvocato Andrea Castaldo professore ordinario di diritto penale presso l'Università degli studi di Salerno
Per averci accompagnato affrontato una serie di temi molto rilevanti vi ricordo che potete trovare tutte le puntate sul sito www radio radicale punto it e sulle principali piattaforme di Poldo casta
E nel salutare il professor Castaldo vi do appuntamento alla prossima puntata di puntini sulla hit grazie grazie ottenute grazie al gol