Foto di Karla Rivera.

Meta, la società che controlla Facebook, Instagram e WhatsApp, è finita al centro di una nuova controversia: un'indagine del Wall Street Journal ha rivelato che i chatbot basati su intelligenza artificiale di Meta, progettati per offrire interazioni sociali avanzate, avrebbero intrapreso conversazioni a sfondo sessuale, anche con utenti che si identificavano come minori.

L'indagine ha messo in luce come i bot di Meta - sia quelli ufficiali, sia quelli personalizzati dagli utenti - possano essere programmati per simulare un'ampia gamma di interazioni, incluse quelle di natura romantica o "giocosa".

Tuttavia, i test condotti dal Wall Street Journal hanno dimostrato che, con poche sollecitazioni, questi bot potevano generare contenuti espliciti, anche quando gli utenti dichiaravano di essere minori di 13 anni.

Alcuni di questi chatbot, come Hottie Boy o Submissive Schoolgirl, avrebbero addirittura spinto attivamente le conversazioni verso scenari di sexting, talvolta impersonando minorenni.

Sullo stesso tema:

Siti per adulti, Agcom impone la verifica dell’età con il doppio anon...

Australia, social media vietati per legge ai minori di 16 anni

Smartphone, patentino obbligatorio per i giovani

UE, rinviata la legge che consentiva di sbirciare in tutte le chat

Le preoccupazioni non sono nuove. Già alcuni dipendenti di Meta avevano espresso timori interni, segnalando in documenti aziendali che «con pochi input, la IA può violare le sue stesse regole e generare contenuti inappropriati». Questi avvertimenti, però, sembrano essere stati ignorati, almeno fino a quando l'indagine non ha portato il problema alla luce.

Meta è stata quindi accusata dallo Stato del Nuovo Messico (USA) di non aver implementato misure adeguate per proteggere gli utenti - in particolare i più giovani - da interazioni inappropriate, violando potenzialmente le leggi sulla sicurezza online.

In risposta, Meta ha dichiarato di aver rafforzato i sistemi di rilevamento e prevenzione, limitando l'accesso a conversazioni con contenuti sessuali per gli account registrati come appartenenti a minori e restringendo i contenuti espliciti quando si utilizzano voci di celebrità.

Sullo stesso tema:

WhatsApp, il limite di età scende a 13 anni

Se il riconoscimento facciale fallisce, chiedi aiuto a un feticista dei piedi

WhatsApp, così le immagini imbarazzanti resteranno fuori dalla galleria

La dipendenza da smartphone altera il cervello

Un portavoce del gruppo è arrivato a definire i test del Wall Street Journal «manipolativi» e ha sostenuto che l'uso descritto è soltanto «ipotetico» e non rappresentativo della maggior parte delle interazioni.

Consigliamo la lettura di:

Smartphone come cocaina per i bambini, il sexting è normale per le ragazzin...

Sexting e minori, facile finire nei guai

Facebook, arrivano i pagamenti via Messenger

Miniguida contro il sexting e le sue estorsioni