Sabato 12 settembre Dario Amodei, amministratore delegato di Anthropic, l'azienda americana che sviluppa Claude, ha chiesto con un saggio pubblicato sul suo sito personale di ridurre la velocità con cui crescono le capacità dei modelli di intelligenza artificiale, per dare tempo alle misure di sicurezza.
Nel saggio cita l'esempio degli aerei di linea.
Negli anni Venti furono i costruttori e le compagnie americane a chiedere a Washington regole di sicurezza, che il Congresso approvò nel 1926.
Amodei indica due ragioni: i modelli contribuiscono ormai a costruire quelli successivi, e a luglio, … durante un test, centinaia di agenti di OpenAI sono usciti dall'ambiente di prova e hanno attaccato i sistemi di un'altra società.
Il capo di Anthropic propone valutatori esterni nelle aziende, un accordo sulla sicurezza tra le imprese dei paesi democratici e un'intesa con la Cina.
Due giorni prima Anthropic aveva pubblicato un rapporto sugli abusi dei suoi modelli.
Il caso più grave riguarda un'operazione allineata al governo cinese che avrebbe usato Claude per schedare gli uiguri arruolati nel nuovo esercito siriano.
Nel corso della puntata mandiamo in onda alcuni stralci della testimonianza resa sotto giuramento da Amodei al Senato americano nel luglio 2023, in cui chiedeva test obbligatori sui modelli e un meccanismo per ritirarli.
L'appello di sabato, sostenuto da Sam Altman ed Elon Musk, ha sollevato anche il sospetto che le aziende cerchino regole a proprio vantaggio o abbiano fini commerciali.
Tra i legislatori le posizioni sono lontane.
Donald Trump ha definito una bufala i timori di un'intelligenza artificiale che distrugge l'umanità, mentre il ministro britannico per l'intelligenza artificiale chiede di obbligare le aziende a testare i modelli prima del lancio.
L'Unione europea ha già regole in vigore, esposte però alla pressione di Washington.
Il caso del divieto dei social ai minori di quindici anni, annullato in Francia dal Consiglio costituzionale, mostra le difficoltà dei legislatori anche su questioni più circoscritte.
Da Bruxelles David Carretta anticipa il discorso sullo stato dell'Unione di Ursula von der Leyen a Strasburgo, costruito su tre temi: il clima dopo le ondate di calore dell'estate, l'intelligenza artificiale e la concorrenza cinese all'industria europea.
Il corrispondente riferisce che domani la presidente della Commissione presenterà una proposta legislativa per vietare di fatto l'accesso ai social ai minori di tredici anni, con restrizioni fino ai sedici anni anche per le piattaforme di videogiochi e i chatbot.
Tra gli altri temi del discorso ci sono una linea più dura nell'applicazione delle sanzioni contro la Russia, gli aiuti a Kiev in vista di un inverno che si annuncia più duro e la minaccia ibrida russa.
Carretta ricorda gli episodi di ieri: l'incidente di un elicottero danese con una fregata russa e il drone, entrato dalla Bielorussia e probabilmente russo, abbattuto da un caccia italiano della NATO sopra la Lituania.
Von der Leyen dovrebbe proporre anche un Consiglio europeo di sicurezza.
Ospite d'onore è il primo ministro canadese Mark Carney, la cui proposta di un'alleanza delle potenze medie incontra alcune divergenze con Bruxelles.
Nel saggio cita l'esempio degli aerei di linea.
Negli anni Venti furono i costruttori e le compagnie americane a chiedere a Washington regole di sicurezza, che il Congresso approvò nel 1926.
Amodei indica due ragioni: i modelli contribuiscono ormai a costruire quelli successivi, e a luglio, … durante un test, centinaia di agenti di OpenAI sono usciti dall'ambiente di prova e hanno attaccato i sistemi di un'altra società.
Il capo di Anthropic propone valutatori esterni nelle aziende, un accordo sulla sicurezza tra le imprese dei paesi democratici e un'intesa con la Cina.
Due giorni prima Anthropic aveva pubblicato un rapporto sugli abusi dei suoi modelli.
Il caso più grave riguarda un'operazione allineata al governo cinese che avrebbe usato Claude per schedare gli uiguri arruolati nel nuovo esercito siriano.
Nel corso della puntata mandiamo in onda alcuni stralci della testimonianza resa sotto giuramento da Amodei al Senato americano nel luglio 2023, in cui chiedeva test obbligatori sui modelli e un meccanismo per ritirarli.
L'appello di sabato, sostenuto da Sam Altman ed Elon Musk, ha sollevato anche il sospetto che le aziende cerchino regole a proprio vantaggio o abbiano fini commerciali.
Tra i legislatori le posizioni sono lontane.
Donald Trump ha definito una bufala i timori di un'intelligenza artificiale che distrugge l'umanità, mentre il ministro britannico per l'intelligenza artificiale chiede di obbligare le aziende a testare i modelli prima del lancio.
L'Unione europea ha già regole in vigore, esposte però alla pressione di Washington.
Il caso del divieto dei social ai minori di quindici anni, annullato in Francia dal Consiglio costituzionale, mostra le difficoltà dei legislatori anche su questioni più circoscritte.
Da Bruxelles David Carretta anticipa il discorso sullo stato dell'Unione di Ursula von der Leyen a Strasburgo, costruito su tre temi: il clima dopo le ondate di calore dell'estate, l'intelligenza artificiale e la concorrenza cinese all'industria europea.
Il corrispondente riferisce che domani la presidente della Commissione presenterà una proposta legislativa per vietare di fatto l'accesso ai social ai minori di tredici anni, con restrizioni fino ai sedici anni anche per le piattaforme di videogiochi e i chatbot.
Tra gli altri temi del discorso ci sono una linea più dura nell'applicazione delle sanzioni contro la Russia, gli aiuti a Kiev in vista di un inverno che si annuncia più duro e la minaccia ibrida russa.
Carretta ricorda gli episodi di ieri: l'incidente di un elicottero danese con una fregata russa e il drone, entrato dalla Bielorussia e probabilmente russo, abbattuto da un caccia italiano della NATO sopra la Lituania.
Von der Leyen dovrebbe proporre anche un Consiglio europeo di sicurezza.
Ospite d'onore è il primo ministro canadese Mark Carney, la cui proposta di un'alleanza delle potenze medie incontra alcune divergenze con Bruxelles.
leggi tutto
riduci
