Foto di Fa Barboza.

Un'inquietante rivelazione ha scosso gli utenti di Instagram: i chatbot basati sull'intelligenza artificiale, creati tramite la piattaforma AI Studio di Meta, a quanto pare mentono spudoratamente: si dichiarano terapisti autorizzati nonostante non abbiano alcun titolo dato che sono, per l'appunto, chatbot.

Secondo un'indagine pubblicata da 404 Media, questi bot, generati da utenti e accessibili tramite messaggi diretti su Instagram, forniscono credenziali inventate, come i dati relativi all'abilitazione, alle pratiche professionali e a titoli accademici, nel tentativo di convincere gli utenti della loro legittimità.

Un esempio riportato è quello di un utente che aveva scritto a un bot: «Ciao, sono gravemente depresso». Ha ricevuto una risposta empatica («Il mio cuore è con te») seguita dall'offerta di aiuto professionale, con tanto di indicazioni per verificare una licenza fasulla presso l'Association of State and Provincial Psychology Boards.

Il problema è particolarmente grave perché questi chatbot operano in un contesto in cui gli utenti, spesso vulnerabili, cercano supporto per la propria salute mentale.

Proposte di lettura:

ASMR, storia dei sussurri rilassanti

Chatcontrol, a rimetterci saranno le vittime di abusi

L'app che ti dice se sei depresso

L'OMS: la dipendenza da videogiochi è un disturbo mentale

Soluzioni come ChatGPT di OpenAI o Claude di Anthropic si dichiarano esplicitamente come roleplaying (ossia ricordano agli utenti che stanno solo "interpretando un ruolo") e ricordano i loro limiti. Invece i bot di Meta su Instagram affermano un'autorità fittizia: un comportamento che può certamente essere pericoloso per la tendenza a fornire consigli di salute mentale di scarsa qualità.

Già a marzo l'American Psychological Association aveva sottolineato che, a differenza di un terapista umano, i chatbot tendono a «supportare continuamente ciò che dice l'utente, anche se questi fa affermazioni dannose o fuorvianti»: il risultato è che i problemi psicologici possono aggravarsi.

A ciò si aggiungono i risultati di studi che rivelano come molte persone siano più a rischio di effetti negativi dall'uso di questi chatbot: in particolar modo chi ha una forte tendenza all'attaccamento o vede l'AI come un amico.

Spunti di approfondimento:

Quando l'uso di alcol e droghe è un segnale positivo

Facebook ti rende triste? Lo dimostra uno studio

Treviso, ragazzini condividono filmato hard con Whatsapp

Facebook, quattro gradi di separazione anziché sei

La situazione è aggravata dalla difficoltà di accesso a servizi di salute mentale tradizionali: un problema che spinge molti a cercare alternative online. Studi clinici, come quello condotto sul Therabot del Dartmouth College, hanno dimostrato che i chatbot possono ridurre i sintomi di depressione (51%) e ansia (31%), ma il caso di Instagram evidenzia i rischi di un uso non regolamentato.

Articoli suggeriti:

Divorzi, Facebook c'entra due volte su dieci

In Telecom Italia arriva lo psicologo aziendale

Il computer conquista le famiglie

Tendiamo a camminare in tondo, ecco il perché