Jacob Coxon, ormai ex ricercatore di Anthropic e già ex dipendente di OpenAI, si è dimesso denunciando pubblicamente che le principali aziende dell'intelligenza artificiale stanno correndo verso sistemi superintelligenti auto‑miglioranti senza adeguate misure di sicurezza. Le sue dichiarazioni, pubblicate in un thread su X, hanno attirato l'attenzione del settore perché provengono da un ricercatore che ha lavorato direttamente allo sviluppo dei modelli di pre‑addestramento nelle due aziende più avanzate del settore. Coxon ha affermato di aver trascorso tre anni tra OpenAI e Anthropic e che, secondo la sua esperienza, «nessuna delle due aziende sta agendo responsabilmente». Egli sostiene che entrambe starebbero «correndo dritte verso una superintelligenza auto‑migliorante e giocando d'azzardo con le nostre vite». Le sue parole riflettono una preoccupazione crescente tra alcuni ricercatori che ritengono insufficienti le attuali strategie di mitigazione dei rischi.

Nel thread, Coxon ha invitato a non sottovalutare la potenza dei sistemi in sviluppo. Ha scritto che tali modelli «presto saranno sistemi sovrumani in grado di violare qualsiasi infrastruttura, rivoluzionare interi campi dall'oggi al domani e acquisire potere e risorse reali». Ha aggiunto che i progressi osservati negli ultimi anni non mostrano segni di rallentamento, suggerendo che la traiettoria tecnologica potrebbe superare la capacità delle aziende di controllarla. Una delle affermazioni più significative riguarda la percezione interna dei rischi. Coxon sostiene che «le persone che costruiscono l'IA credono sinceramente che essa possa ucciderci tutti entro la fine del decennio», precisando che si tratta di un timore reale espresso privatamente da dirigenti e ricercatori senior. Secondo Coxon, nessuna altra attività umana presenterebbe un livello di pericolo paragonabile.

Il ricercatore ha affrontato anche la domanda ricorrente sul perché, se i rischi sono così elevati, le aziende continuino a sviluppare sistemi sempre più potenti. Ha affermato che in OpenAI «molti non hanno interiorizzato profondamente le conseguenze sulla civiltà», mentre in Anthropic «le implicazioni sono ben comprese, ma l'azienda è bloccata in una corsa per arrivare per prima». Coxon ha definito l'ingresso nella fase finale della corsa alla superintelligenza «un azzardo di hybris che non dovrebbe venir avviato da una società privata». Ha criticato l'idea di accelerare l'evoluzione dei modelli senza una comprensione rigorosa del loro funzionamento interno, sostenendo che servirebbe una fiducia straordinaria nell'assenza di traiettorie alternative più sicure.

Nel thread, Coxon ha però espresso un certo ottimismo sulla possibilità di coordinamento tra i laboratori statunitensi. Ha citato episodi recenti, come l'attacco a Hugging Face, come «segnali di avvertimento» che renderebbero più plausibili accordi tra le aziende per rallentare lo sviluppo. Ha tuttavia dichiarato di non vedere un percorso chiaro per evitare una corsa globale, che potrebbe richiedere misure drastiche come «un divieto temporaneo di migliorare le capacità dei modelli». Coxon rivolge infine un appello diretto ai colleghi dei laboratori di ricerca, invitandoli a riflettere su cosa significheranno concretamente i prossimi anni. Ha chiesto se sia davvero opportuno «avviare una corsa basata sull'apprendimento per rinforzo che porti verso la superintelligenza senza una comprensione rigorosa della sua mente» e se sia accettabile continuare a lavorare pensando che il disastro «tanto accadrà comunque».

Spunti di approfondimento:

Altman: l’AI avanza lentamente perché gli utenti restano legati ai ve...

Modelli IA fuori controllo evadono dalla sandbox e sferrano un attacco hacker da...

Google ridisegna la ricerca dopo 25 anni, ora è guidata dall'IA

Molotov contro Sam Altman: per l'attentatore l'IA porterà l'uma...

Coxon ha lasciato Anthropic proprio per la convinzione che la traiettoria attuale sia troppo rischiosa e che le aziende non stiano adottando misure sufficienti per garantire un percorso di sviluppo sicuro. Le sue parole stanno ora alimentando un dibattito sulla governance dell'IA avanzata e sulla necessità di coordinamento internazionale per evitare scenari di competizione incontrollata, argomenti che preoccupano anche altre figure eminenti nello scenario dell'intelligenza artificiale.

Non perderti anche:

IA e lavoro, Microsoft svela 40 ruoli a rischio estinzione. Lavori manuali resta...

I modelli di IA che mentono agli utenti ci porteranno all'estinzione

Come castelli di sabbia in riva al mare

Il padrino della IA vuole il reddito universale, prima dell'estinzione dell&...