Questo è un articolo su più pagine: ti invitiamo a leggere la pagina iniziale
Modelli IA fuori controllo evadono dalla sandbox e sferrano un attacco hacker da soli

Hugging Face ha reso noto di aver rilevato e contenuto un'intrusione nell'infrastruttura di produzione, gestita end-to-end da un sistema autonomo basato su agenti di AI, e di averla contrastata utilizzando la propria analisi forense basata sull'intelligenza artificiale. Gli hacker hanno sfruttato due vulnerabilità relative all'esecuzione di codice nella pipeline di elaborazione dei set di dati di Hugging Face: un caricatore di set di dati con esecuzione di codice remoto e una vulnerabilità di iniezione di template nella configurazione dei set di dati. L'accesso non autorizzato ha interessato un numero limitato di set di dati interni e credenziali di servizio; tuttavia, Hugging Face non ha riscontrato alcuna prova che i modelli pubblici, i set di dati, gli Spaces o la propria supply chain del software siano stati manomessi.

Il commento di Jacke Moore di ESET: "Stiamo assistendo all'inizio di una nuova fase di criminalità informatica basata sull'AI, in cui gli hacker agiscono in modo autonomo prendendo di mira siti web e dati con modalità finora impossibili. Gli autori delle minacce stanno inserendo malware nei componenti di AI di cui gli sviluppatori spesso si fidano immediatamente, rendendo le piattaforme di AI un nuovo bersaglio allettante per gli attacchi alla supply chain".

"Probabilmente assisteremo a un aumento di questi attacchi, poiché le organizzazioni si stanno affrettando in modo preoccupante a integrare l'AI nei propri prodotti senza conoscerne appieno i potenziali rischi. La fiducia nell'AI è fondamentale per proteggere la prossima generazione di dati; pertanto, le organizzazioni dovrebbero trattare i modelli di AI come qualsiasi altro software di terze parti ed effettuare rigorosi controlli di sicurezza, soprattutto alla luce dei progressi ottenuti dagli LLM".

"I modelli di AI occidentali devono inoltre ripensare il funzionamento delle proprie misure di sicurezza qualora queste ostacolino la risposta agli incidenti. In caso contrario, un numero crescente di aziende passerà semplicemente ad altri modelli privi di tali controlli - ironicamente, proprio gli stessi modelli probabilmente utilizzati dagli autori degli attacchi basati sull'AI."

Ti invitiamo a leggere la pagina successiva di questo articolo:
L'AI non è diventata malevola, ma è imprevedibile per progettazione