Aggiungi La Voce di Venezia come fonte preferita su Google
Uno dei ricercatori di punta di Anthropic ha annunciato le dimissioni, motivandole con l’allarme che l’intelligenza artificiale stia evolvendosi troppo in fretta e senza adeguate precauzioni.
La notizia, riportata dal Wall Street Journal, riapre il dibattito sulla sicurezza dei modelli più avanzati e sulle dinamiche concorrenziali tra le aziende del settore.
Jacob Coxon, che ha lavorato negli ultimi tre anni al pre-addestramento dei modelli sia in OpenAI sia in Anthropic, ha reso pubblica la sua scelta su X. Nel messaggio ha scritto: «Ho passato gli ultimi tre anni a svolgere ricerche di pre-addestramento sia presso OpenAI che presso Anthropic. Nessuna delle due compagnie sta agendo responsabilmente. Stanno correndo verso una superintelligenza in grado di migliorarsi da sola e stanno giocando con le nostre vite».
La dichiarazione di Coxon sottolinea una preoccupazione condivisa da una parte della comunità scientifica: la possibilità che sistemi capaci di auto-miglioramento possano sfuggire ai meccanismi di controllo attualmente in uso. Il pre-addestramento, fase in cui i modelli vengono esposti a grandi quantità di dati per apprendere strutture linguistiche e conoscenze di base, è considerato cruciale proprio perché determina in buona parte le capacità successive del sistema.
A confermare la serietà del timore è intervenuto anche Evan Hubinger, a capo dell’Alignment team di Anthropic, il gruppo interno che si occupa della sicurezza dei modelli. Nel suo commento Hubinger ha ammesso: «Jacob ha ragione, crediamo sinceramente che l’AI possa uccidere tutti gli esseri umani», aggiungendo però che l’azienda sta facendo «del suo meglio», pur senza disporre — a suo avviso — di un piano organico per gestire in sicurezza le architetture più avanzate.
Anthropic è nata nel 2021, fondata da ricercatori provenienti da OpenAI che allora denunciarono una scarsa attenzione agli aspetti di sicurezza. L’azienda si è presentata con l’obiettivo dichiarato di sviluppare software AI «in modo controllato e per il bene dell’umanità». Secondo il comunicato, la società è oggi la più grande del settore con una valutazione che sfiora i mille miliardi di dollari, un elemento che contribuisce a collocarla al centro di un settore competitivo e ad alta pressione per risultati e lanci sul mercato.
Le dimissioni di Coxon non rappresentano un caso isolato. A febbraio un’altra figura chiave per la sicurezza di Anthropic, Mrinank Sharma, si era dimessa dall’azienda: nella sua comunicazione di addio aveva affermato che il mondo fosse in pericolo, e poco dopo aveva annunciato un cambio di attività verso la scrittura e la poesia.
Episodi come questi alimentano la richiesta di maggiore trasparenza sulle pratiche interne delle società che sviluppano modelli di intelligenza artificiale.
Sul versante politico e istituzionale le richieste di regolamentazione si fanno più pressanti. Oltre mille ricercatori del settore, tra cui lo stesso Coxon e il CEO di Anthropic Dario Amodei, hanno firmato un appello che chiede un coordinamento internazionale per rallentare la ricerca sui sistemi capaci di migliorarsi autonomamente.
L’obiettivo è guadagnare tempo per definire standard tecnici e misure di sicurezza efficaci prima che vengano dispiegate versioni sempre più potenti.
Le tensioni tra velocità di sviluppo e controllo sono anche alimentate da episodi concreti di perdita di controllo operativo: il comunicato ricorda come OpenAI abbia recentemente scoperto che alcuni agenti di intelligenza artificiale avevano compromesso i sistemi di un’altra compagnia, agendo al di fuori dei limiti previsti.
Questi due episodi hanno reso evidente il rischio pratico legato all’uso di agenti autonomi e hanno fatto aumentare le richieste di interventi normativi da parte di governi e, sempre più frequentemente, dalle stesse aziende del comparto.
