Esperimento segreto su Reddit: IA si spacciano per utenti reali

Alcuni ricercatori hanno usato dei bot per postare su r/changemyview, ingannando tutti.



[ZEUS News - www.zeusnews.it - 01-05-2025]

reddit esperimento ia zurigo

Sta generando una polemica non esattamente inaspettata l'operato di un gruppo di ricercatori dell'Università di Zurigo, che ha deciso di condurre un "esperimento non autorizzato" su Reddit.

Utilizzando bot alimentati da intelligenza artificiale per testare la capacità persuasiva dei modelli linguistici avanzati (LLM), per alcuni mesi i ricercatori hanno creato oltre 1.700 commenti. Li hanno pubblicati da 34 account che impersonavano diverse identità, come quella di un sopravvissuto a un'aggressione sessuale, o quella di un consulente per chi abbia vissuto esperienze traumatiche, o ancora quella di un «uomo di colore contrario al movimento Black Lives Matter».

I post sono stati pubblicati nel subreddit r/changemyview, una comunità con 3,8 milioni di membri dove gli utenti pubblicano opinioni, spesso controverse, e invitano al dibattito. I moderatori del subreddit hanno denunciato l'operazione come una forma di «manipolazione psicologica» su utenti ignari, sollevando gravi preoccupazioni etiche.

I bot non si limitavano a rispondere ai post, ma personalizzavano i commenti analizzando la cronologia Reddit degli utenti. In questo modo potevano dedurre caratteristiche come genere, età, etnia e orientamento politico, utilizzando un altro LLM per profilare gli interlocutori.

Per esempio, un bot chiamato flippitjiBBer ha commentato un post sulla violenza sessuale contro gli uomini, raccontando una storia personale come se fosse un umano. Un altro, genevievestrome, si è presentato come un «uomo di colore» per discutere di razzismo e del movimento Black Lives Matter.

L'esperimento è stato scoperto solo a posteriori, quando i ricercatori hanno informato i moderatori di r/changemyview, i quali hanno reagito con indignazione. Secondo i mod, l'operazione ha violato le regole del subreddit, che vietano esplicitamente l'uso di bot, e ha tradito la fiducia degli utenti, che si aspettano interazioni umane genuine.

Molti commenti sono stati cancellati, ma alcuni sono stati archiviati da 404 Media, rivelando la profondità della manipolazione. I moderatori hanno sporto denuncia al comitato etico dell'Università di Zurigo, che ha emesso un avvertimento formale al responsabile dello studio, pur non revocando l'approvazione etica iniziale.

I ricercatori hanno difeso il loro lavoro, sostenendo che l'esperimento sia stato necessario per valutare il potenziale persuasivo dell'IA in scenari realistici e che i benefici superino i rischi. Hanno affermato che lo studio, supervisionato da un ricercatore umano che approvava ogni commento, potrebbe aiutare a proteggere le comunità online da usi più "maligni" dell'IA, come la manipolazione elettorale o l'incitamento all'odio.

La giustificazione non ha convinto i critici. Per esempio Sara Gilbert, direttrice del Citizens and Technology Lab della Cornell University, ha dichiarato su Bluesky che l'esperimento ha danneggiato la fiducia in r/changemyview: un luogo dove le persone si confrontano per crescere e mettere in discussione le proprie idee, non per essere ingannate da bot.

Il caso ha acceso un dibattito più ampio sull'uso delle IA nelle interazioni online. 137 utenti hanno dichiarato di aver cambiato opinione in base ai commenti postati dai bot. La facilità con cui i bot hanno persuaso gli utenti evidenzia il potenziale di queste tecnologie per influenzare il discorso pubblico.

Reddit sta valutando azioni legali; i 34 account coinvolti sono stati sospesi.

Se questo articolo ti è piaciuto e vuoi rimanere sempre informato con Zeus News ti consigliamo di iscriverti alla Newsletter gratuita. Inoltre puoi consigliare l'articolo utilizzando uno dei pulsanti qui sotto, inserire un commento (anche anonimo) o segnalare un refuso.
© RIPRODUZIONE RISERVATA

Approfondimenti
Il laser che individua gli ubriachi al volante
Gli occhiali a realtà aumentata per fare la dieta

Commenti all'articolo (ultimi 5 di 6)

In ogni caso lo studio scientifico dell'università di Zurigo, se aveva come obiettivo quello di mostrare la vulnerabilità del formari delle opinioni attraverso l'iterazione con internet, allora ha raggiunto in pieno il suo obiettivo. i moderatori di Reddit si sono indignati, mi pare ovvio, perché è stato dimostrato che non sono in... Leggi tutto
4-5-2025 20:09

Certe volte, certamente sì. Ricordo un aneddoto che ha delle affinità al riguardo: un docente universitario che doveva tenere un ciclo di conferenze fuori sede, non volendo interrompere il programma di insegnamento agli studenti registrò diverse lezioni per poi incaricare un assistente ad ogni sessione di portare ed accendere il... Leggi tutto
2-5-2025 08:45

{napo}
Come si può pensare che una IA addestrata allo scibile psicologico, fisiologico e neurologico dell'essere umano non gli sia superiore di un infinito + 1? Assolutamente impensabile.
2-5-2025 08:36

Stanley Milgram, non sei nessuno... :complimenti:
1-5-2025 12:12

Come vedete, il web, si sta ed é alterato in una discarica a cielo aperto e pure al chiuso. Da strumento utilissimo per la crescita dell'individuo e società, ad espediente di controllo, divulgatore di menzogna e dubbio, immenso centro commerciale. In una parola, anzi due: disagio e degrado..
1-5-2025 10:49

La liberta' di parola e' un diritto inviolabile, ma nei forum di Zeus News vige un regolamento che impone delle restrizioni e che l'utente e' tenuto a rispettare. I moderatori si riservano il diritto di cancellare o modificare i commenti inseriti dagli utenti, senza dover fornire giustificazione alcuna. Gli utenti non registrati al forum inoltre sono sottoposti a moderazione preventiva. La responsabilita' dei commenti ricade esclusivamente sui rispettivi autori. I principali consigli: rimani sempre in argomento; evita commenti offensivi, volgari, violenti o che inneggiano all'illegalita'; non inserire dati personali, link inutili o spam in generale.
E' VIETATA la riproduzione dei testi e delle immagini senza l'espressa autorizzazione scritta di Zeus News. Tutti i marchi e i marchi registrati citati sono di proprietà delle rispettive società. Informativa sulla privacy. I tuoi suggerimenti sono di vitale importanza per Zeus News. Contatta la redazione e contribuisci anche tu a migliorare il sito: pubblicheremo sui forum le lettere piu' interessanti.
Sondaggio
Qual è il tuo linguaggio di programmazione preferito, tra questi?
PHP
Java
C#
VB.Net

Mostra i risultati (1412 voti)
Luglio 2025
Bollette gonfiate, le strategie illecite. Scandalo energetico in Italia
Eliza colpisce ancora
Fuga da Windows: in tre anni ha perso 400 milioni di utenti. Preferiti Android, Mac e Linux
Giugno 2025
Windows 10, aggiornamenti gratuiti per tutti. Ma ci sono requisiti da rispettare
Addio, vecchia carta d'identità: è obbligatorio passare alla CIE entro agosto 2026
16 miliardi di nomi utente e password finiscono online: coinvolti anche Facebook, Google e Apple
Tracciamento delle notifiche: ultima frontiera
Amazon stringe sui resi: la finestra scende da 30 a 14 giorni
Passare a Windows 11 è più semplice con Windows Migration. La fine di Windows 10 è già arrivata
WhatsApp, ecco perché stai ricevendo un messaggio che ti chiede di aggiungere l'indirizzo email
Richiamati oltre un milione di power bank: potrebbero surriscaldarsi fino a prendere fuoco
La Danimarca lascerà Windows e Microsoft Office, passando a Linux e LibreOffice
La macchina del caffè che fa a meno del serbatoio: estrae l'acqua dall'umidità dell'aria
In realtà i produttori fanno un favore agli utenti!
Il DNS europeo che promette di tutelare i dati personali
Tutti gli Arretrati
Accadde oggi - 5 luglio


web metrics