Foto di Aaron Burden.

Una donna della Florida è stata arrestata e accusata di minaccia scritta di violenza dopo aver affidato a Claude, il chatbot di Anthropic, messaggi nei quali avrebbe dichiarato l'intenzione di compiere un attacco contro l'ufficio dello sceriffo della contea di Lee. I sistemi di sicurezza della piattaforma hanno individuato i contenuti potenzialmente pericolosi, li hanno sottoposti a una revisione umana e, infine, li hanno segnalati alle forze dell'ordine. Secondo il rapporto dell'arresto, la protagonista della vicenda, Carli Michelle Heller, lo scorso 26 settembre avrebbe scritto nella conversazione con Claude di voler attaccare l'ufficio dello sceriffo locale. In seguito avrebbe spiegato agli investigatori di utilizzare il chatbot come una sorta di «diario» personale.

I sistemi di sicurezza di Claude hanno inizialmente contrassegnato il messaggio come problematico. Il contenuto è stato quindi inoltrato a un revisore umano incaricato di valutare i casi più delicati. Dopo aver ritenuto credibile la minaccia, il revisore ha deciso di contattare le autorità competenti. La vicenda offre uno sguardo concreto sul funzionamento delle procedure di sicurezza adottate dai principali fornitori di intelligenza artificiale generativa. Anthropic prevede infatti la possibilità di condividere informazioni sugli utenti in situazioni eccezionali qualora ritenga necessario intervenire per prevenire morte o gravi lesioni fisiche.

Dopo la segnalazione, gli agenti hanno identificato la donna e si sono recati presso la sua abitazione; il fermo è avvenuto senza incidenti e che l'indagine è stata successivamente affidata a un investigatore dell'unità di intelligence dello sceriffo della contea di Lee. Le accuse si basano sullo Statuto 836.10 della Florida: la norma considera reato di secondo grado l'invio, la pubblicazione o la trasmissione di comunicazioni scritte o elettroniche contenenti minacce di uccidere, ferire, compiere una sparatoria di massa o realizzare atti di terrorismo, purché tali comunicazioni possano essere visualizzate da altre persone.

Il caso evidenzia un aspetto spesso poco compreso dagli utenti dei sistemi di intelligenza artificiale: le conversazioni con un assistente non sono necessariamente assimilabili a un diario privato tradizionale. In presenza di contenuti che possono rappresentare minacce concrete alla sicurezza pubblica, le aziende possono applicare procedure di controllo, revisione e segnalazione, compreso il passaggio dalla rilevazione algoritmica alla valutazione umana. La decisione di coinvolgere le forze dell'ordine non è stata presa dall'intelligenza artificiale in autonomia, ma da un revisore che ha esaminato il contenuto dopo la segnalazione automatica dei sistemi di sicurezza. In altre parole, c'è sempre la possibilità che qualcuno legga quanto si scrive a un chatbot: non c'è nulla di davvero privato.

Proposte di lettura:

Dietro Copilot ci sono persone reali: qualcuno vedrà la foto osé che h...

Cancelli una foto da Windows 11? Una copia nascosta resta visibile nella cache

Altman: l’AI avanza lentamente perché gli utenti restano legati ai ve...

Pubblicità su ChatGPT anche in Italia, ma solo nella versione gratuita

Tutto ciò è anche testimonianza degli sforzi condotti dalle aziende che sviluppano modelli linguistici per cercare di bilanciare due esigenze spesso in tensione tra loro: la tutela della riservatezza degli utenti e l'obbligo di intervenire quando emergono possibili rischi per l'incolumità delle persone. Nel caso di Anthropic, la scelta è stata quella di considerare le affermazioni abbastanza serie da richiedere una comunicazione immediata alle autorità.

Articoli suggeriti:

ChatGPT for Teens protegge i minori e li guida nello studio

Studenti beccati a barare all'esame col trucco del prompt invisibile

Sfida su TikTok manda in ospedale un bambino

Ennesima sfida pericolosa su TikTok: ingerire il detersivo