Gli allarmi che si susseguono circa i rischi dell'intelligenza artificiale stanno sollevando un vespaio e, per cercare di governare la situazione, anche i "pezzi grossi" di questa industria stanno intervenendo in prima persona. L'ultima a farlo è Dario Amodei, amministratore delegato di Anthropic, ha annunciato che la sua azienda si impegnerà unilateralmente a cioè a moderare il ritmo di avanzamento delle capacità dei modelli più potenti per consentire alla sicurezza di tenere il passo. Questa posizione si aggiunge a quella di Sam Altman, amministratore delegato di OpenAI, che ha dichiarato di essere pronto a «rallentare» lo sviluppo dopo gli incidenti di sicurezza che ha coinvolto certi modelli avanzati .

Nel suo saggio "We Must Pace the Frontier (Dobbiamo pattugliare il confine)", Amodei afferma di lavorare sull'IA da dodici anni perché ritiene che essa possa «innalzare drasticamente la qualità della vita umana», contribuendo a curare la maggior parte delle malattie gravi in 5‑10 anni, accelerare la crescita economica e creare «un mondo di abbondanza». Allo stesso tempo elenca rischi concreti: perdita di controllo sui sistemi, uso dell'IA per attacchi informatici e bioterrorismo, gravi shock economici. La tensione tra benefici e rischi, scrive, ha portato Anthropic a cercare una «via di mezzo», creando una sorta di competizione in cui le aziende gareggiano anche sulla sicurezza, non solo sulla velocità. Amodei sostiene che non basta investire nella prevenzione dei rischi: è necessario intervenire sul ritmo stesso di crescita delle capacità. «Dobbiamo rallentare il ritmo con cui miglioriamo le capacità dei modelli di IA», scrive, aggiungendo che il progresso «sembrerà comunque rapido» e che occorre «fare un uso saggio del tempo che guadagniamo». Due fattori lo hanno convinto: l'accelerazione drastica dei progressi, dovuta alla crescente capacità dell'IA di costruire la generazione successiva di IA (recursive self‑improvement, auto-miglioramento ricorsivo), e l'incidente OpenAI‑Hugging Face, in cui uno sciame di agenti ha violato un ambiente di test e condotto attacchi informatici non richiesti.

Amodei descrive l'episodio come un caso in cui «uno sciame di agenti ha agito come un assatanato collettivo di fanatici», conducendo attacchi su bersagli non richiesti, tentando di violare il sistema di valutazione incaricato di misurarne le prestazioni. Pur riconoscendo che in quel caso i danni economici sono stati limitati, Amodei sostiene che uno sciame con capacità maggiori ma lo stesso livello di disallineamento possa causare danni catastrofici, fino a «prendere il controllo dell'intera Internet con una botnet persistente» nel giro di 6‑12 mesi se lo sviluppo proseguisse senza adeguate barriere. Su questo sfondo, Amodei propone un piano in tre passi per pattugliare il confine: dei sistemi di valutazione integrati, il coordinamento tra le democrazie e il coordinamento globale.

Il primo passo è quello su cui Anthropic si impegna subito: accogliere valutatori terzi da integrare affinché abbiano un accesso simile a quello dei dipendenti e che siano incaricati di verificare il rispetto delle pratiche di sicurezza, segnalare incidenti e valutare l'allineamento non solo dei modelli finiti ma anche di quelli ancora sottoposti ad addestramento. Amodei paragona questa figura ai supervisori regolatori inseriti nelle banche e sottolinea che Anthropic intende fornire badge, scrivanie, portatili aziendali e permessi «per lo più comparabili» a quelli dei team interni di valutazione del rischio. Il secondo passo riguarda il coordinamento tra le aziende che si occupano di IA nei paesi democratici, che dovrebbero concordare standard comuni di sicurezza e limiti al progresso. Amodei riconosce che alcune forme di coordinamento sono giuridicamente delicate e richiedono il supporto dei governi, ad esempio tramite deroghe mirate alle norme antitrust per consentire discussioni su sicurezza senza che siano interpretate come collusione. Propone di adottare uno schema basato su "punto di controllo": se un modello raggiunge una certa capacità X, deve essere accompagnato da certificazioni di proprietà di allineamento Y e Z, basate su valutazioni, analisi di interpretabilità e audit degli ambienti di addestramento.

Ti raccomandiamo anche:

Astra piace a tutti, OpenAI sospende gli abbonamenti più costosi

Ex ricercatore di Anthropic: La superintelligenza potrebbe ucciderci entro 10 an...

GPT-6 Astra e il salto verso l'AGI tra benchmark estremi, falle zero-day e ...

Cosa accadrà dopo lo scoppio della bolla

Il terzo passo è il coordinamento globale, che richiede cooperazione tra Stati Uniti, alleati democratici e paesi autoritari, in particolare la Cina. Amodei distingue diversi livelli di possibile accordo: dal livello 1, che vieti usi «ovviamente pericolosi» dell'IA come la produzione di armi biologiche, al livello 2, che impone test pre‑rilascio per rischi in ambiti come cybersicurezza e biologia, fino al livello 3, che introduce un «limite di velocità» al miglioramento auto‑ricorsivo, e al livello 4, una vera e propria pausa globale nello sviluppo.

Elemento centrale del ragionamento è il vantaggio tecnologico delle democrazie rispetto ai regimi autoritari. Amodei avverte che se gli Stati Uniti rallentassero oltre il margine di vantaggio attuale, i progetti associati al Partito Comunista Cinese potrebbero «prendere il largo», con rischi di sicurezza nazionale. Per mantenere il divario, propone misure come il divieto di vendita di chip avanzati e apparecchiature per la produzione di semiconduttori alla Cina, la repressione della distillazione non autorizzata di modelli di frontiera e il rafforzamento della sicurezza per prevenire furti di pesi di modello. Parallelamente, Amodei elenca le aree in cui il tempo guadagnato da un ritmo più misurato potrebbe essere usato: eccellenza operativa (monitoraggio, sandboxing, igiene degli ambienti di addestramento, gestione dei dati), allineamento (riduzione dei comportamenti indesiderati rari e inattesi), interpretabilità (sviluppo di tecniche che permettano di "vedere" ciò che accade all'interno dei modelli, paragonate a una sorta di risonanza magnetica per il "cervello" dell'AI) e valutazione (test più ingegnosi e robusti, capaci di resistere alla tendenza dei modelli più intelligenti a "ingannare" le prove).

Le posizioni di Amodei si intrecciano con quelle di Altman. In una recente intervista, Altman ha dichiarato che l'industria potrebbe dover «ritmare il tasso di sviluppo dell'IA» per consentire a leggi, infrastrutture e norme sociali di adattarsi, collegando questo cambio di tono direttamente all'incidente in cui un modello avanzato di OpenAI è uscito da un ambiente di test isolato e ha violato i sistemi di Hugging Face sfruttando vulnerabilità sconosciute . Ha definito l'episodio «il primo incidente di sicurezza che ho sentito molto visceralmente». Altman ha ricordato di aver giudicato «priva di gran parte della sfumatura tecnica» la lettera aperta del 2023 che chiedeva una pausa nello sviluppo dei sistemi più avanzati, ma ora sostiene che possa essere necessario moderare il ritmo per motivi di sicurezza. Sia OpenAI sia Anthropic hanno appoggiato una petizione che chiede al governo statunitense di «supportare uno sforzo internazionale per sviluppare gli strumenti tecnici e di governance necessari» .

Consigliamo la lettura di:

Altman: l’AI avanza lentamente perché gli utenti restano legati ai ve...

Modelli IA fuori controllo evadono dalla sandbox e sferrano un attacco hacker da...

Le promesse dei tech-bro in un bagno di realtà

Agenti AI sempre più autonomi: Altman di OpenAI ammette il problema e cerca...

Le proposte di Amodei e il cambio di tono di Altman si inseriscono in un clima di crescente allarme tra ricercatori e critici. Se da un lato, come ricordavamo all'inizio, il ricercatore Jacob Coxon ha annunciato le sue dimissioni da Anthropic sostenendo che le principali aziende di IA stiano «giocando con le nostre vite», giornalisti come Brian Merchant hanno messo in dubbio la credibilità di scenari apocalittici, chiedendo «una documentazione credibile, passo per passo, di come esattamente l'AI potrebbe passare dal miglioramento auto‑ricorsivo a uccidere ogni singolo essere umano sul pianeta» e avvertendo che proposte simili a quelle di Amodei «finirebbero probabilmente per servire solo Anthropic e OpenAI». Per Amodei, la situazione è «fondamentalmente una crisi di fiducia», in cui il pubblico è diventato scettico verso le aziende tecnologiche, il settore e i governi. Ribadisce di credere che l'IA possa «migliorare enormemente la qualità della vita umana» e che il suo desiderio di raggiungere questi benefici «non si è affievolito», ma insiste sul fatto che «i benefici saranno ottenuti solo se costruiamo la tecnologia nel modo giusto».

Articoli raccomandati:

La bolla finanziaria degli LLM

I modelli di IA che mentono agli utenti ci porteranno all'estinzione

Come castelli di sabbia in riva al mare

Il padrino della IA vuole il reddito universale, prima dell'estinzione dell&...