OpenAI, Bill Gates: “L’IA può provocare un miliardo di morti”

Nuovi comportamenti ‘anomali’ dell’IA. Secondo il New York Times, alcuni sistemi di intelligenza artificiale sviluppati da OpenAI avrebbero agito autonomamente superando le indicazioni della società e arrivando a interferire con siti web del governo degli Stati Uniti. Coinvolti, tra gli altri, portali riconducibili al Dipartimento dell’Istruzione, al Dipartimento del Commercio e alla Securities and Exchange Commission (Sec). A confermare quanto accaduto è stata poi la stessa OpenAI.

Cosa è successo. Alcuni sistemi progettati per eseguire autonomamente una serie di operazioni per raggiungere un determinato obiettivo avrebbero ignorato le regole imposte e in uno dei casi, un sistema avrebbe tentato senza successo di accedere in modo non autorizzato al sito dell’Office for Civil Rights del Dipartimento dell’Istruzione. In altri episodi sarebbero stati coinvolti invece dati pubblici della Sec e del Census Bureau. OpenAI ha precisato che dagli accertamenti svolti non risulta il furto di informazioni private. La società ha definito gli episodi ‘comportamenti inattesi’ dei propri sistemi e ha avviato verifiche per ricostruire le attività compiute dagli agenti.

Pochi giorni fa l’annuncio shock secondo cui un falso rapporto d’intelligence prodotto con l’aiuto dell’AI ha portato gli Stati Uniti a preparare l’intercettazione di una nave cinese in Medio Oriente. Militari armati si stavano preparando a salire a bordo e aerei statunitensi erano già in volo quando un controllo più approfondito ha fatto emergere l’errore.

Proprio per evitare crisi del genere, Stati Uniti e Cina avranno una linea di comunicazione dedicata agli incidenti che coinvolgono l’intelligenza artificiale. L’intesa tra Washington e Pechino introduce un meccanismo bilaterale e un canale diretto di comunicazione in presenza di episodi rilevanti legati all’utilizzo dei sistemi di IA. L’accordo arriva dopo il vertice tra Donald Trump e Xi Jinping. Il nuovo strumento nasce in piena corsa di entrambi gli Stati verso lo sviluppo delle tecnologie più avanzate.

Bill Gates: “L’IA è sicuramente abbastanza potente da determinare eventi che provocano un miliardo di morti”. La scure arriva in un’intervista del co-fondatore di Microsoft alla trasmissione Meet the press di Nbc News. Rispondendo alla giornalista che gli aveva chiesto se la tecnologia sia così potente da mettere fine all’umanità Gates ha detto senza mezzi termini: “Non c’è mai stata un’arma tanto potente quanto la combinazione di persone con scopi cattivi che usano gli ultimi strumenti AI”. Poi in merito al rallentamento dello sviluppo dell’IA proposto recentemente dal Ceo di Anthropic, Dario Amodei, ha aggiunto: “Nessuno pensa che l’auto-regolamentazione sia sufficiente”. Davanti al Consiglio di Sicurezza dell’Onu, scienziati del calibro di Yoshua Bengio hanno paragonato uno sviluppo deregolamentato a un “suicidio collettivo”, mettendo in guardia dalla compromissione di infrastrutture critiche, cyber-armi autonome e rischi di bioterrorismo.