Esperimento segreto su Reddit: IA si spacciano per utenti reali

Alcuni ricercatori hanno usato dei bot per postare su r/changemyview, ingannando tutti.



[ZEUS News - www.zeusnews.it - 01-05-2025]

reddit esperimento ia zurigo

Sta generando una polemica non esattamente inaspettata l'operato di un gruppo di ricercatori dell'Università di Zurigo, che ha deciso di condurre un "esperimento non autorizzato" su Reddit.

Utilizzando bot alimentati da intelligenza artificiale per testare la capacità persuasiva dei modelli linguistici avanzati (LLM), per alcuni mesi i ricercatori hanno creato oltre 1.700 commenti. Li hanno pubblicati da 34 account che impersonavano diverse identità, come quella di un sopravvissuto a un'aggressione sessuale, o quella di un consulente per chi abbia vissuto esperienze traumatiche, o ancora quella di un «uomo di colore contrario al movimento Black Lives Matter».

I post sono stati pubblicati nel subreddit r/changemyview, una comunità con 3,8 milioni di membri dove gli utenti pubblicano opinioni, spesso controverse, e invitano al dibattito. I moderatori del subreddit hanno denunciato l'operazione come una forma di «manipolazione psicologica» su utenti ignari, sollevando gravi preoccupazioni etiche.

I bot non si limitavano a rispondere ai post, ma personalizzavano i commenti analizzando la cronologia Reddit degli utenti. In questo modo potevano dedurre caratteristiche come genere, età, etnia e orientamento politico, utilizzando un altro LLM per profilare gli interlocutori.

Per esempio, un bot chiamato flippitjiBBer ha commentato un post sulla violenza sessuale contro gli uomini, raccontando una storia personale come se fosse un umano. Un altro, genevievestrome, si è presentato come un «uomo di colore» per discutere di razzismo e del movimento Black Lives Matter.

L'esperimento è stato scoperto solo a posteriori, quando i ricercatori hanno informato i moderatori di r/changemyview, i quali hanno reagito con indignazione. Secondo i mod, l'operazione ha violato le regole del subreddit, che vietano esplicitamente l'uso di bot, e ha tradito la fiducia degli utenti, che si aspettano interazioni umane genuine.

Molti commenti sono stati cancellati, ma alcuni sono stati archiviati da 404 Media, rivelando la profondità della manipolazione. I moderatori hanno sporto denuncia al comitato etico dell'Università di Zurigo, che ha emesso un avvertimento formale al responsabile dello studio, pur non revocando l'approvazione etica iniziale.

I ricercatori hanno difeso il loro lavoro, sostenendo che l'esperimento sia stato necessario per valutare il potenziale persuasivo dell'IA in scenari realistici e che i benefici superino i rischi. Hanno affermato che lo studio, supervisionato da un ricercatore umano che approvava ogni commento, potrebbe aiutare a proteggere le comunità online da usi più "maligni" dell'IA, come la manipolazione elettorale o l'incitamento all'odio.

La giustificazione non ha convinto i critici. Per esempio Sara Gilbert, direttrice del Citizens and Technology Lab della Cornell University, ha dichiarato su Bluesky che l'esperimento ha danneggiato la fiducia in r/changemyview: un luogo dove le persone si confrontano per crescere e mettere in discussione le proprie idee, non per essere ingannate da bot.

Il caso ha acceso un dibattito più ampio sull'uso delle IA nelle interazioni online. 137 utenti hanno dichiarato di aver cambiato opinione in base ai commenti postati dai bot. La facilità con cui i bot hanno persuaso gli utenti evidenzia il potenziale di queste tecnologie per influenzare il discorso pubblico.

Reddit sta valutando azioni legali; i 34 account coinvolti sono stati sospesi.

Se questo articolo ti è piaciuto e vuoi rimanere sempre informato con Zeus News ti consigliamo di iscriverti alla Newsletter gratuita. Inoltre puoi consigliare l'articolo utilizzando uno dei pulsanti qui sotto, inserire un commento (anche anonimo) o segnalare un refuso.
© RIPRODUZIONE RISERVATA

Approfondimenti
Il laser che individua gli ubriachi al volante
Gli occhiali a realtà aumentata per fare la dieta

Commenti all'articolo (ultimi 5 di 6)

In ogni caso lo studio scientifico dell'università di Zurigo, se aveva come obiettivo quello di mostrare la vulnerabilità del formari delle opinioni attraverso l'iterazione con internet, allora ha raggiunto in pieno il suo obiettivo. i moderatori di Reddit si sono indignati, mi pare ovvio, perché è stato dimostrato che non sono in... Leggi tutto
4-5-2025 20:09

Certe volte, certamente sì. Ricordo un aneddoto che ha delle affinità al riguardo: un docente universitario che doveva tenere un ciclo di conferenze fuori sede, non volendo interrompere il programma di insegnamento agli studenti registrò diverse lezioni per poi incaricare un assistente ad ogni sessione di portare ed accendere il... Leggi tutto
2-5-2025 08:45

{napo}
Come si può pensare che una IA addestrata allo scibile psicologico, fisiologico e neurologico dell'essere umano non gli sia superiore di un infinito + 1? Assolutamente impensabile.
2-5-2025 08:36

Stanley Milgram, non sei nessuno... :complimenti:
1-5-2025 12:12

Come vedete, il web, si sta ed é alterato in una discarica a cielo aperto e pure al chiuso. Da strumento utilissimo per la crescita dell'individuo e società, ad espediente di controllo, divulgatore di menzogna e dubbio, immenso centro commerciale. In una parola, anzi due: disagio e degrado..
1-5-2025 10:49

La liberta' di parola e' un diritto inviolabile, ma nei forum di Zeus News vige un regolamento che impone delle restrizioni e che l'utente e' tenuto a rispettare. I moderatori si riservano il diritto di cancellare o modificare i commenti inseriti dagli utenti, senza dover fornire giustificazione alcuna. Gli utenti non registrati al forum inoltre sono sottoposti a moderazione preventiva. La responsabilita' dei commenti ricade esclusivamente sui rispettivi autori. I principali consigli: rimani sempre in argomento; evita commenti offensivi, volgari, violenti o che inneggiano all'illegalita'; non inserire dati personali, link inutili o spam in generale.
E' VIETATA la riproduzione dei testi e delle immagini senza l'espressa autorizzazione scritta di Zeus News. Tutti i marchi e i marchi registrati citati sono di proprietà delle rispettive società. Informativa sulla privacy. I tuoi suggerimenti sono di vitale importanza per Zeus News. Contatta la redazione e contribuisci anche tu a migliorare il sito: pubblicheremo sui forum le lettere piu' interessanti.
Sondaggio
Quali sono i prodotti che acquisti di più online?
Abbigliamento
Idee regalo
Libri/riviste
Hardware/software
Biglietti/eventi
Elettronica
Viaggi/turismo
Musica/video
Elettrodomestici
Telefonia/accessori

Mostra i risultati (2304 voti)
Giugno 2025
WhatsApp, ecco perché stai ricevendo un messaggio che ti chiede di aggiungere l'indirizzo email
Richiamati oltre un milione di power bank: potrebbero surriscaldarsi fino a prendere fuoco
La Danimarca lascerà Windows e Microsoft Office, passando a Linux e LibreOffice
La macchina del caffè che fa a meno del serbatoio: estrae l'acqua dall'umidità dell'aria
In realtà i produttori fanno un favore agli utenti!
Il DNS europeo che promette di tutelare i dati personali
Guarda film pirata? Rischi fino a 5.000 euro di multa
Il Q-day è vicino
OneDrive: app e siti possono accedere a tutto il cloud
Windows 11, ennesimo aggiornamento che blocca l'avvio del PC
Maggio 2025
Il cripto-ladro è nella stampante e ruba un milione di dollari
Amazon, la IA ha trasformato la programmazione in una catena di montaggio
Lidar nelle auto: utile per la guida, letale per le fotocamere
Azienda IA in tribunale per il suicidio di un adolescente
Non è proprio legale... ma le sanzioni sono irrisorie
Tutti gli Arretrati
Accadde oggi - 18 giugno


web metrics