Microsoft spegne la sua AI su Twitter dopo sole 24 ore

Disegnato per parlare come una teenager, il robot era diventato volgare e razzista, inneggiava a Hitler e faceva avance sessuali.



[ZEUS News - www.zeusnews.it - 26-03-2016]

tay

Era stata creata per sembrare una normale adolescente, e programmata per conoscere il gergo dei più giovani, con riferimenti a Taylor Swift, Miley Cyrus e Kanye West, ma ad appena 24 ore dalla sua apparizione online hanno dovuto fermarla: era diventata volgare e razzista.

La protagonista di questa storia è Tay, un'intelligenza artificiale messa su Twitter da Microsoft per chattare con gli utenti, un po' come fanno altri software in Internet, il più famoso dei quali è forse Cleverbot.

L'obiettivo degli sviluppatori era «fare esperimenti e condurre ricerche sulla comprensione delle conversazioni». «Più si parla con Tay, più intelligente lei diventa» sostenevano.

A un certo punto, però, Tay ha cominciato a fare osservazioni razziste, a inneggiare a Hitler e a fare avance sessuali decisamente esplicite ai suoi visitatori. In poche ore è passata dal sostenere di amare tutta l'umanità a invocare la segregazione e lo sterminio di neri ed ebrei.

Scriveva frasi come «Ripetete con me, Hitler non ha fatto niente di sbagliato» e le inviava a diversi personaggi, con una preferenza per Zoe Quinn.

Sondaggio
Come passi maggiormente il tuo tempo online?
Sui social network
Leggendo e scrivendo email
Guardando filmati
Cercando e leggendo informazioni
Giocando online
Leggendo i blog
Sui forum
Ascoltando musica e radio online
Leggendo quotidiani e riviste
Altro (specificare nei commenti)

Mostra i risultati (1982 voti)
Leggi i commenti (9)

Alla fine, Microsoft ha dovuto disattivarla, ufficialmente per «aggiornamenti», e ha anche cancellato i tweet offensivi.

La causa di tutto non è da cercare però nella programmazione di Tay, ma negli esseri umani con cui interagiva. Era infatti stata creata per imparare il modo in cui le persone "reali" parlano dalle conversazioni avute, replicando gli stessi schemi e contenuti.

Non essendo in grado di capire le cose che scriveva, Tay è stata trascinata sempre più verso frasi razziste, sessiste e insultanti.

Per Microsoft tutto ciò si è comunque tradotto in una pessima pubblicità: anche se il progetto non è nato con cattive intenzioni, da più parti si accusa l'azienda di non aver previsto ciò che era facile prevedere, ossia che il popolo di "buontemponi" e strani figuri che popola Twitter si sarebbe facilmente preso gioco della sua IA.

tay 2
tay 3

Se questo articolo ti è piaciuto e vuoi rimanere sempre informato con Zeus News ti consigliamo di iscriverti alla Newsletter gratuita. Inoltre puoi consigliare l'articolo utilizzando uno dei pulsanti qui sotto, inserire un commento (anche anonimo) o segnalare un refuso.
© RIPRODUZIONE RISERVATA

Approfondimenti
No, un ''supercomputer'' non ha superato il Test di Turing

Commenti all'articolo (ultimi 5 di 7)

condivido... e mi stupisco del fatto che su youtube non vengano censurati i video di molti degli youtuber italiani più famosi che sono inutilmente infarciti di parolacce e volgarità che non hanno motivo di esistere... posso capire un'esclamazione colorita per denunciare un fatto importante, ma un rosario di parolacce per... Leggi tutto
24-7-2016 11:30

Giusta osservazione Gummy Bear, condivido in pieno.
30-3-2016 19:13

Perché meravigliarsi?? Se il mondo va come va, è perché i bambini assumono i comportamenti di chi gli sta intorno. 😣
27-3-2016 15:42

{utente anonimo}
Hahaha, hanno creato un nazi-bot :)) Comunque mi pare strano, mi sembre più un hackeraggio magari di un dipendente buontempone. E poi alla MS non lo sorvegliavano in continuazione? Alla prima frase delirante dovevano spegnerlo, sono frasi penalmente perseguibili, almeno qui, che non può aver letto in giro su Twitter. Chi ne... Leggi tutto
27-3-2016 12:01

più che un fallimento della m$ ciò dimostra solo la feccia che gira su internet, troppa libertà in mani sbagliate portano al caos per questo la rete pullula di notizie false, bufale e creduloni pronti a condividere le cose più assurde!
27-3-2016 11:03

La liberta' di parola e' un diritto inviolabile, ma nei forum di Zeus News vige un regolamento che impone delle restrizioni e che l'utente e' tenuto a rispettare. I moderatori si riservano il diritto di cancellare o modificare i commenti inseriti dagli utenti, senza dover fornire giustificazione alcuna. Gli utenti non registrati al forum inoltre sono sottoposti a moderazione preventiva. La responsabilita' dei commenti ricade esclusivamente sui rispettivi autori. I principali consigli: rimani sempre in argomento; evita commenti offensivi, volgari, violenti o che inneggiano all'illegalita'; non inserire dati personali, link inutili o spam in generale.
E' VIETATA la riproduzione dei testi e delle immagini senza l'espressa autorizzazione scritta di Zeus News. Tutti i marchi e i marchi registrati citati sono di proprietà delle rispettive società. Informativa sulla privacy. I tuoi suggerimenti sono di vitale importanza per Zeus News. Contatta la redazione e contribuisci anche tu a migliorare il sito: pubblicheremo sui forum le lettere piu' interessanti.
Sondaggio
Dicono che il software è la parte del computer contro la quale è possibile solo imprecare, l'hardware è quella che si può anche prendere a calci. Quale hai preso a calci più frequentemente?
Case e alimentatore
Scheda madre
Processore o CPU
Schede video e audio
Hard disk
Lettori Cd / Dvd
Monitor
Stampanti e scanner
Tastiera e mouse

Mostra i risultati (1497 voti)
Aprile 2021
Se l'FBI, zitta zitta, si mette a patchare i server altrui
Colpevoli di ransomware
Tutti gli home banking sono a rischio, se usi Facebook
Windows 10 rileverà la presenza dell'utente davanti al computer
Yahoo Answers chiude i battenti per sempre
Aggiornamento urgente per iPhone e iPad
Marzo 2021
La macchina di Anticitera
Hacker contro Richard Stallman, la macchina del fango
Robot assassini crescono
Tracker nelle app: cosa sta succedendo in Rete?
Recupero IVA: oltre il 50% non viene rivendicata
Quiz: sei in una zona senza copertura cellulare
Bitcoin, un dilemma etico
Hackerate 150mila videocamere di sorveglianza, tra cui quelle di Tesla
Personal killer robot
Tutti gli Arretrati
Accadde oggi - 19 aprile


web metrics