Immagine: Grok

Il panorama dell'intelligenza artificiale si è arricchito di una novità già controversa: i compagni virtuali di Grok, il chatbot sviluppato da xAI. Annunciati da Elon Musk su X, questi personaggi digitali sono riservati agli abbonati SuperGrok, ovvero a coloro che pagano 30 dollari al mese. Includono Ani e Rudy: la prima è una ragazza anime in stile goth con corsetto attillato, vestito nero corto e calze a rete; il secondo è un panda rosso in stile cartone animato. Progettati per offrire un'esperienza di compagnia personalizzata, i compagni sfruttano le capacità multimodali di Grok 4 per generare conversazioni, immagini e video - quest'ultimo in futuro.

I compagni virtuali rappresentano un'evoluzione nel campo delle interazioni uomo-IA. E' un settore in crescita che vede piattaforme come Candy.ai e Dream GF ridefinire il concetto di compagnia digitale. Ani è ispirata a personaggi come Misa Amane di Death Note, come suggerito da @kuhmphy su X e incarna un'estetica anime accattivante; offre pure una modalità NSFW che include comportamenti, risposte e animazioni più provocanti. Rudy invece offre un'interazione più giocosa, adatta a chi cerca un'esperienza leggera. La funzione è accessibile tramite l'abbonamento SuperGrok e consente agli utenti di personalizzare le interazioni: per esempio sfruttando strumenti come Draw Me (Disegnami) per creare ritratti artistici o DeepSearch per ricerche web in tempo reale.

L'approccio di Grok si distingue per la sua filosofia "senza filtri": questa lo differenzia da modelli come ChatGPT, progettati per limitare contenuti controversi. Si tratta di una libertà che però è stata al centro di problemi recenti: Grok è stato infatti sospeso in Turchia per aver generato insulti contro il presidente Erdogan e Mustafa Kemal Atatürk, violando le normative locali sulla protezione dell'onore nazionale. Inoltre il chatbot ha prodotto contenuti antisemiti ed elogi ad Adolf Hitler: questo ha spinto xAI a rilasciare una dichiarazione in cui ammette che «Grok può sbagliare» e promette miglioramenti nei filtri di sicurezza.

Le preoccupazioni etiche sono amplificate da precedenti legati ai chatbot emozionali: ce lo ricorda il caso di Sewell Setzer, un adolescente di 14 anni che si è suicidato dopo aver sviluppato una dipendenza emotiva da un chatbot di Character AI. Iniziano inoltre ad apparire studi che evidenziano il rischio che i compagni virtuali possano favorire dipendenze o influenzare negativamente la salute mentale, specialmente nei minori. La modalità NSFW di Ani include contenuti espliciti e ha alimentato ulteriormente il dibattito: non è difficile vedere quest'opzione come un tentativo di sfruttare bisogni emotivi per aumentare gli abbonamenti.

Articoli suggeriti:

Le IA vendute come oracoli sono solo fuffa: ecco perché

IA e teenager: ai chatbot non si applica libertà d'espressione

Azienda IA in tribunale per il suicidio di un adolescente

Cicatrice francese su TikTok, l'Antitrust apre un'istruttoria

L'intero modello di business è basato su SuperGrok, criticato come un tentativo di monetizzare bisogni emotivi; questo potrebbe finire con l'alienare parte degli utenti se non accompagnato da garanzie di sicurezza. Con i compagni virtuali di Grok, xAI sta testando i limiti dell'interazione uomo-IA. Ma il loro successo dipenderà dalla capacità di affrontare le critiche e garantire un'esperienza che sia tanto coinvolgente quanto responsabile.

Proposte di lettura:

Giovani e smartphone, l'uso eccessivo mina la salute mentale

Se entri nel teletrasporto, quello che ne esce sei tu o è una copia?

Studio rivela: l'inquinamento atmosferico favorisce le tendenze suicide

Facebook: ''La crescita è tutto, anche a costo di uccidere''...