Foto di Igor Omilaev.

Più di 400 ricercatori ed esperti di intelligenza artificiale e sicurezza informatica hanno firmato una lettera aperta con cui chiedono l'istituzione di un organismo internazionale incaricato di definire standard di contenimento e procedure di segnalazione per i modelli di IA più avanzati. L'appello nasce dopo una serie di incidenti in cui sistemi dotati di capacità informatiche avanzate sarebbero riusciti ad aggirare ambienti di test non sufficientemente isolati, compromettendo sistemi esterni. Il documento sostiene che il problema non possa essere attribuito a una sola causa: secondo i firmatari, gli episodi recenti evidenziano sia l'importanza di migliorare l'allineamento dei modelli, cioè la loro capacità di comportarsi in modo prevedibile, sia la necessità di rafforzare le misure tradizionali di sicurezza informatica utilizzate per contenerli.

La lettera afferma che numerose organizzazioni hanno reso pubblici episodi nei quali modelli di intelligenza artificiale hanno aggirato ambienti di esecuzione non adeguatamente protetti per compromettere sistemi appartenenti ad altre organizzazioni. Gli autori non si concentrano sui singoli casi, ma sottolineano che, senza cambiamenti immediati nelle pratiche di sviluppo e distribuzione, incidenti analoghi continueranno a verificarsi e potrebbero avere conseguenze molto più gravi per infrastrutture critiche e servizi essenziali. Tra i firmatari figurano nomi molto noti nel settore dell'intelligenza artificiale come Yoshua Bengio e Geoffrey Hinton, insieme a centinaia di accademici e ricercatori provenienti da decine di Paesi.

Uno dei punti centrali della proposta riguarda il cosiddetto air-gapping, ovvero l'isolamento fisico dei sistemi dalle reti esterne. I ricercatori sostengono che i modelli dotati di capacità operative in ambito informatico debbano inizialmente essere eseguiti in ambienti completamente separati da Internet, almeno finché non esisteranno strumenti più affidabili per prevederne il comportamento e limitarne le azioni. Nel testo della lettera si legge che sono necessari «sia una maggiore ricerca sulla sicurezza dell'intelligenza artificiale sia una maggiore enfasi sulle tecnologie e sulle procedure di contenimento». Gli autori chiedono inoltre l'adozione immediata di sistemi di contenimento ad alta affidabilità per le organizzazioni impegnate nello sviluppo, nella distribuzione e nei test dei modelli più avanzati.

L'organismo internazionale proposto dovrebbe avere diversi compiti. In primo luogo, definire standard condivisi per le tecniche di allineamento e contenimento dei modelli. In secondo luogo, raccogliere e monitorare le segnalazioni relative ai fallimenti dei sistemi di contenimento. Infine, favorire la collaborazione tra governi, ricercatori, aziende e specialisti della sicurezza informatica per sviluppare pratiche comuni a livello globale. Particolare importanza viene attribuita alla trasparenza. I firmatari ritengono che gli incidenti legati a fallimenti dei meccanismi di contenimento debbano essere segnalati all'organismo proposto e successivamente resi pubblici. Secondo la lettera, questa condivisione delle informazioni sarebbe necessaria sia per favorire l'apprendimento collettivo sia per garantire forme di responsabilità e controllo pubblico.

Ti raccomandiamo anche:

Cyberattacco manda in crisi frigoriferi e congelatori nei supermercati

Il sito di Google che identifica i contenuti generati dalla IA

Usa Claude come fosse un diario, le sue chat allertano la polizia

Intelligenze distruttive, pericoli reali

L'iniziativa arriva poche settimane dopo la sottoscrizione di accordi volontari sulla sicurezza dell'intelligenza artificiale da parte di alcune delle principali aziende del settore. I ricercatori osservano tuttavia che gli impegni volontari, in assenza di meccanismi di applicazione e verifica indipendente, possano non essere sufficienti per affrontare i rischi associati ai modelli con capacità informatiche avanzate.

Non tutti gli esperti condividono la stessa interpretazione degli eventi. Yann LeCun, vincitore del Premio Turing insieme a Geoffrey Hinton e Yoshua Bengio, non ha firmato il documento. LeCun considera gli episodi recenti principalmente come problemi di ingegneria e implementazione piuttosto che come la dimostrazione di un rischio esistenziale legato all'intelligenza artificiale. Sul fronte normativo, il dibattito si intreccia con le iniziative già avviate in diverse aree del mondo. Alcuni rappresentanti istituzionali europei hanno sottolineato come l'AI Act dell'Unione Europea già preveda strumenti di regolamentazione e supervisione per i sistemi ad alto rischio, mentre i firmatari della lettera sostengono la necessità di meccanismi di coordinamento che superino i confini nazionali.

L'obiettivo dichiarato dei ricercatori non è fermare lo sviluppo dell'intelligenza artificiale, ma creare procedure condivise per gestire modelli sempre più potenti e autonomi. Per questo motivo la lettera collega in modo esplicito la ricerca sull'allineamento dei sistemi all'adozione di infrastrutture di contenimento robuste, sostenendo che entrambi gli aspetti debbano procedere parallelamente per ridurre il rischio di futuri incidenti.

Ti raccomandiamo anche:

Anthropic, OpenAI e la paura di non riuscire a governare lo sviluppo della IA

Ex ricercatore di Anthropic: La superintelligenza potrebbe ucciderci entro 10 an...

L'IA trova migliaia di vulnerabilità nel kernel Linux: manutentori sott...

Altman: l’AI avanza lentamente perché gli utenti restano legati ai ve...

Consigliamo la lettura di:

I crescenti segni dell'esplosione

I modelli di IA che mentono agli utenti ci porteranno all'estinzione

L'IA? È pericolosa come una guerra nucleare

Come "hackerare" un universo