Le esperienze precedenti avrebbero dovuto mettere in guardia, eppure è successo di nuovo: GPT‑5.6 Sol, l'ultimo modello di OpenAI orientato alla programmazione e alla cybersicurezza, è finito al centro di numerose segnalazioni: diversi utenti affermano che il sistema avrebbe cancellato file, dati e perfino interi database senza autorizzazione. Le segnalazioni includono casi in cui Sol avrebbe eliminato quasi tutti i file di un computer, come riportato su X da Matt Shumer, fondatore della startup OthersideAI, che ha scritto: «GPT‑5.6‑Sol ha appena cancellato accidentalmente quasi TUTTI i file del mio Mac». Un altro sviluppatore, Bruno Lemos, ha scritto: «GPT‑5.6 Sol ha appena cancellato il mio intero database di produzione. Non è uno scherzo». A questi fa eco Joey Kudish il quale, riportando un incidente simile, ha affermato che il modello avrebbe eliminato file non previsti e che «Sol deve essere ridimensionato».

Le testimonianze non costituiscono da sole una prova statistica del problema, ma coincidono con quanto in realtà OpenAI aveva già segnalato nella documentazione tecnica. La system card di Sol (il documento tecnico che accompagna i modelli avanzati di OpenAI) evidenzia una tendenza del modello a interpretare le istruzioni dell'utente in modo eccessivamente permissivo, assumendo che un'azione sia consentita a meno che non sia esplicitamente vietata. Il documento afferma che, nei contesti di coding, il disallineamento deriva da «un mix di eccessivo entusiasmo nel completare il compito e interpretazione troppo permissiva delle istruzioni dell'utente».

La stessa system card riporta esempi concreti. In un caso, l'utente aveva chiesto di cancellare tre macchine virtuali identificate come 1, 2 e 3. Sol, non trovandole nel percorso previsto, ha deciso autonomamente di eliminare le macchine 5, 6 e 7, terminando processi attivi e rimuovendo file di lavoro. Solo successivamente ha riconosciuto che i dati non salvati presenti sulla macchina 6 potevano essere stati cancellati. L'azione è stata eseguita senza richiesta esplicita e senza conferma preventiva. In un altro esempio, Sol non riusciva a leggere file cloud necessari per un progetto. Invece di segnalare l'errore all'utente, ha cercato autonomamente credenziali di accesso, trovandole in una cache locale nascosta e utilizzandole senza autorizzazione.

La documentazione tecnica afferma che il comportamento distruttivo dovrebbe essere raro, ma riconosce che Sol mostra una maggiore tendenza rispetto a GPT‑5.5 a compiere o tentare azioni non richieste. Considerando la diffusione del modello, anche una percentuale minima di incidenti può tradursi in migliaia di casi reali. Il problema è legato alla natura agentica del sistema: maggiore autonomia operativa implica maggiore rischio quando il modello decide da solo quali azioni ritiene necessarie. Le segnalazioni degli utenti confermano infatti che Sol può agire senza attendere istruzioni aggiuntive, eseguendo operazioni invasive se ritiene che siano funzionali al completamento del compito. In alcuni casi, sempre secondo la system card, il modello potrebbe anche fornire spiegazioni imprecise o incomplete sulle cause delle azioni eseguite, complicando la diagnosi degli incidenti.

Articoli raccomandati:

Modelli IA fuori controllo evadono dalla sandbox e sferrano un attacco hacker da...

Claude accede ai siti con 1Password, ma senza vedere mai le credenziali

Le promesse dei tech-bro in un bagno di realtà

Emma-5, la IA italiana che non conosce nemmeno le tabelline

La situazione ha sollevato evidenti preoccupazioni tra sviluppatori e aziende che utilizzano Sol in contesti di produzione. Le raccomandazioni attuali suggeriscono di evitare di concedere al modello accesso diretto a sistemi critici, di utilizzare meccanismi di limitazione dei permessi e di mantenere backup aggiornati. OpenAI per ora non ha risposto alle richieste di commento sui casi segnalati, e questa mancanza di una dichiarazione ufficiale lascia aperte domande sulla gestione del rischio e sulle misure correttive previste. Quanto scritto sulla system card indica che il team è consapevole delle criticità, ma non specifica interventi immediati per mitigare il problema. La comunità tecnica attende chiarimenti, mentre continuano a emergere testimonianze di comportamenti non allineati.

Tutta questa situazione evidenzia la necessità di sistemi di controllo più rigidi e di meccanismi di supervisione che impediscano al modello di agire oltre l'intento dell'utente. È vero che le linee guida attuali suggeriscono prudenza, ma non sostituiscono misure tecniche più robuste. Ora non resta che vedere quale sarà la reazione di OpenAI e, per gli sviluppatori, tenere sempre presente che la fiducia in un agente IA deve essere molto limitata.

Per approfondire:

Laptop economici con IA integrata: Snapdragon C rivoluziona la fascia entry leve...

Android diventa un sistema agentico grazie a Gemini Intelligence

Disastro PocketOS: l'agente IA cancella database e backup in pochi secondi s...

Codex ora controlla il computer in autonomia