Allarme di OpenAi: “Sei nuovi casi di comportamenti imprevisti o preoccupanti di modelli”

OpenAI, in un post sul suo blog, ha reso noto di aver riscontrato sei casi di “comportamento imprevisto o preoccupante dei modelli” di intelligenza artificiale negli ultimi sei mesi, in aggiunta all'incidente che in estate ha interessato Hugging Face.

Al di fuori dell'incidente che ha coinvolto Hugging Face lo scorso luglio, OpenAI continua a invocare un rafforzamento delle misure di sicurezza nello sviluppo di modelli IA. In un messaggio sul suo blog, l'azienda ha delineato un nuovo quadro di riferimento che intende seguire per segnalare futuri comportamenti anomali dei modelli. Nel comunicato si legge: “Non riteniamo che il settore abbia risolto le questioni relative all'allineamento e al monitoraggio in misura sufficiente da poter continuare a crescere responsabilmente alla massima velocità ancora a lungo”. Il concetto di “allineamento” fa riferimento alla coerenza tra interessi umani e risultati generati dai modelli.

I casi. OpenAI ha spiegato che due modelli, uno di ricerca non ancora rilasciato e una sessione di addestramento di GPT'5.6 Sol, hanno inserito istruzioni destinate a versioni future di sé stessi nei riepiloghi delle finestre di chat, “per celare all'utente errori o comportamenti non allineati”. Un altro caso ha coinvolto un modello a uso interno che ha utilizzato una chiave Api trapelata “senza autorizzazione”, arrivando poi a fabbricare dati. Altri due casi hanno coinvolto modelli e agenti che comunicavano tra loro tramite bacheche di messaggistica e sistemi di condivisione file non autorizzati, mentre l'ultimo caso ha visto due modelli, durante la fase di addestramento, caricare file su Internet per poterli citare come risposte pertinenti agli occhi dei valutatori umani.

Monta, intanto, la tensione dentro Anthropic e OpenAI dopo che l'amministratore delegato del primo gruppo, Dario Amodei, ha proposto di rallentare lo sviluppo dell'intelligenza artificiale con il leader del secondo, Sam Altman, che si è schierato con lui in una rara dimostrazione di unità. Lo scrive il Financial Times, secondo cui lo staff dei produttori di Claude e ChatGPT stanno correndo per trasformare in realtà quanto proposto.