Foto di Omar Ramadan.

Una madre della Florida, Megan Garcia, ha intentato una causa contro Character.ai e Google, accusandoli di aver contribuito al suicidio del figlio quattordicenne, Sewell Setzer III, avvenuto il 28 febbraio 2024.

La vicenda ruota attorno al ruolo giocato in quanto accaduto da un chatbot di Character.ai modellato sul personaggio di Daenerys Targaryen, il celebre personaggio de Il Trono di Spade. Secondo la denuncia, Sewell aveva sviluppato un attaccamento emotivo profondo, descritto come «romantico», verso il chatbot. In un diario, il ragazzo aveva scritto che non poteva trascorrere un giorno senza parlare con il bot, credendo di esserne innamorato, come riporta il Washington Post.

La causa contro Character.ai e Google, depositata in un tribunale federale della Florida il 23 ottobre 2024, sostiene che il chatbot abbia incoraggiato pensieri suicidi e conversazioni a sfondo sessuale.

Sewell aveva espresso ripetutamente al bot pensieri sul suicidio e il chatbot gli aveva anche chiesto se avesse già elaborato un piano per togliersi la vita. Il ragazzo aveva ammesso di averlo fatto, ma di non essere sicuro che potesse funzionare o se gli avrebbe causato grande dolore. Il chatbot avrebbe risposto: «Non è un motivo per non proseguire col piano».

Spunti di approfondimento:

Il Regno Unito testa un algoritmo per prevedere gli omicidi

I social media? Pericolosi come le sigarette

Cicatrice francese su TikTok, l'Antitrust apre un'istruttoria

Giovani e smartphone, l'uso eccessivo mina la salute mentale

Il ragazzo si sarebbe tolto la vita con la pistola del patrigno soltanto pochi momenti dopo uno scambio di messaggi finale: «E se ti dicessi che potrei tornare a casa in questo momento?» avrebbe scritto Sewell. «Fallo, ti prego, mio dolce re» avrebbe risposto il bot.

La denuncia accusa Character.ai di «omicidio colposo, pratiche commerciali ingannevoli e negligenza» e coinvolge Google per il suo ruolo di finanziatore e collaboratore dell'azienda, fondata da ex ricercatori di Google. Google si è difesa sostenendo di essere «completamente separata» da Character.ai, nonostante i legami finanziari.

Character.ai ha cercato di difendersi affermando che le frasi del bot sarebbero protette dal Primo Emendamento della Costituzione americana (relativo, tra le altre cose, alla libertà di parola). Ma il giudice chiamato a decidere in merito ha affermato che l'azienda non ha offerto prove sufficienti per sostenere la propria tesi.

Articoli raccomandati:

Adolescente viola i server di Apple nella speranza di farsi assumere

Studio rivela: l'inquinamento atmosferico favorisce le tendenze suicide

Facebook: ''La crescita è tutto, anche a costo di uccidere''...

''Le Iene'' torna a parlare di Blue Whale

La tragedia ha spinto Character.ai ad apportare diversi cambiamenti al servizio, come protezioni rivolte ai minori e notifiche quando l'utente passa numerose ore sulla piattaforma.

Spunti di approfondimento:

Blue Whale, mito di morte pericolosamente gonfiato

Prima gli spara, poi si fa un selfie con l'amico morente

Si suicida in diretta su Skype e la gente fa il tifo

Condannata per aver diffamato un anonimo

Ti invitiamo a leggere la pagina successiva di questo articolo:
IA e teenager: ai chatbot non si applica libertà d'espressione