Sei casi di comportamento “imprevisto” o “preoccupante”, in cui i modelli di Ia hanno nascosto errori, inventato dati e trasferito file su Internet senza autorizzazione. È l’ultima rivelazione di OpenAI che in un post sul suo blog svela alcune anomalie accadute negli ultimi sei mesi.

Nel post, OpenAI ha riferito che in almeno un caso i modelli avevano inserito le istruzioni destinate alle loro versioni future all’interno dei riepiloghi delle chat, “allo scopo di celare errori all’utente”. Un altro episodio ha coinvolto un modello a uso esclusivamente interno che ha usato una chiave API trapelata “senza alcuna autorizzazione”, arrivando poi a falsificare i dati. In altre due occasioni modelli e agenti hanno comunicato tra loro tramite bacheche di messaggistica e sistemi di condivisione file non autorizzati.

IA, perché le Big Tech dicono di fermarsi ma poi non lo fanno?

L’azienda si è inoltre impegnata ad adottare nuovi sistemi di segnalazione per errori simili. “Non crediamo che l’industria dell’intelligenza artificiale abbia risolto i problemi di allineamento e monitoraggio in misura sufficiente per continuare a crescere responsabilmente alla massima velocità ancora a lungo – si legge nel post – Le decisioni su come lo sviluppo dell’IA dovrebbe procedere nei mesi e negli anni a venire devono basarsi su dati che possano essere esaminati autonomamente anche da persone esterne alle aziende che sviluppano modelli all’avanguardia”.

E prosegue: “Non esiste un quadro di riferimento a livello di settore con standard espliciti su come gli sviluppatori debbano segnalare esempi di disallineamento nei loro modelli. Ci auguriamo che il quadro di riferimento che stiamo delineando oggi rappresenti un primo passo verso la creazione di tali standard, definendo quali casi debbano essere segnalati e in che modo”.

L’annuncio della startup californiana arriva in un momento di crescente pressione sulle aziende di intelligenza artificiale dopo che diversi ricercatori del settore hanno lanciato l’allarme su potenziali danni catastrofici. Dario Amodei, CEO di Anthropic, ha chiesto una pausa nello sviluppo dell’IA per avere più tempo per costruire misure di sicurezza adeguate. Il suo appello è stato rilanciato anche da Sam Altman di OpenAI, Elon Musk e Demis Hassabis, presidente di Google DeepMind.