Microsoft spegne la sua AI su Twitter dopo sole 24 ore

Disegnato per parlare come una teenager, il robot era diventato volgare e razzista, inneggiava a Hitler e faceva avance sessuali.



[ZEUS News - www.zeusnews.it - 26-03-2016]

tay

Era stata creata per sembrare una normale adolescente, e programmata per conoscere il gergo dei più giovani, con riferimenti a Taylor Swift, Miley Cyrus e Kanye West, ma ad appena 24 ore dalla sua apparizione online hanno dovuto fermarla: era diventata volgare e razzista.

La protagonista di questa storia è Tay, un'intelligenza artificiale messa su Twitter da Microsoft per chattare con gli utenti, un po' come fanno altri software in Internet, il più famoso dei quali è forse Cleverbot.

L'obiettivo degli sviluppatori era «fare esperimenti e condurre ricerche sulla comprensione delle conversazioni». «Più si parla con Tay, più intelligente lei diventa» sostenevano.

A un certo punto, però, Tay ha cominciato a fare osservazioni razziste, a inneggiare a Hitler e a fare avance sessuali decisamente esplicite ai suoi visitatori. In poche ore è passata dal sostenere di amare tutta l'umanità a invocare la segregazione e lo sterminio di neri ed ebrei.

Scriveva frasi come «Ripetete con me, Hitler non ha fatto niente di sbagliato» e le inviava a diversi personaggi, con una preferenza per Zoe Quinn.

Sondaggio
Come passi maggiormente il tuo tempo online?
Sui social network
Leggendo e scrivendo email
Guardando filmati
Cercando e leggendo informazioni
Giocando online
Leggendo i blog
Sui forum
Ascoltando musica e radio online
Leggendo quotidiani e riviste
Altro (specificare nei commenti)

Mostra i risultati (1970 voti)
Leggi i commenti (9)

Alla fine, Microsoft ha dovuto disattivarla, ufficialmente per «aggiornamenti», e ha anche cancellato i tweet offensivi.

La causa di tutto non è da cercare però nella programmazione di Tay, ma negli esseri umani con cui interagiva. Era infatti stata creata per imparare il modo in cui le persone "reali" parlano dalle conversazioni avute, replicando gli stessi schemi e contenuti.

Non essendo in grado di capire le cose che scriveva, Tay è stata trascinata sempre più verso frasi razziste, sessiste e insultanti.

Per Microsoft tutto ciò si è comunque tradotto in una pessima pubblicità: anche se il progetto non è nato con cattive intenzioni, da più parti si accusa l'azienda di non aver previsto ciò che era facile prevedere, ossia che il popolo di "buontemponi" e strani figuri che popola Twitter si sarebbe facilmente preso gioco della sua IA.

tay 2
tay 3

Se questo articolo ti è piaciuto e vuoi rimanere sempre informato con Zeus News ti consigliamo di iscriverti alla Newsletter gratuita. Inoltre puoi consigliare l'articolo utilizzando uno dei pulsanti qui sotto, inserire un commento (anche anonimo) o segnalare un refuso.
© RIPRODUZIONE RISERVATA

Approfondimenti
No, un ''supercomputer'' non ha superato il Test di Turing

Commenti all'articolo (ultimi 5 di 7)

condivido... e mi stupisco del fatto che su youtube non vengano censurati i video di molti degli youtuber italiani più famosi che sono inutilmente infarciti di parolacce e volgarità che non hanno motivo di esistere... posso capire un'esclamazione colorita per denunciare un fatto importante, ma un rosario di parolacce per... Leggi tutto
24-7-2016 11:30

Giusta osservazione Gummy Bear, condivido in pieno.
30-3-2016 19:13

Perché meravigliarsi?? Se il mondo va come va, è perché i bambini assumono i comportamenti di chi gli sta intorno. 😣
27-3-2016 15:42

{utente anonimo}
Hahaha, hanno creato un nazi-bot :)) Comunque mi pare strano, mi sembre più un hackeraggio magari di un dipendente buontempone. E poi alla MS non lo sorvegliavano in continuazione? Alla prima frase delirante dovevano spegnerlo, sono frasi penalmente perseguibili, almeno qui, che non può aver letto in giro su Twitter. Chi ne... Leggi tutto
27-3-2016 12:01

più che un fallimento della m$ ciò dimostra solo la feccia che gira su internet, troppa libertà in mani sbagliate portano al caos per questo la rete pullula di notizie false, bufale e creduloni pronti a condividere le cose più assurde!
27-3-2016 11:03

La liberta' di parola e' un diritto inviolabile, ma nei forum di Zeus News vige un regolamento che impone delle restrizioni e che l'utente e' tenuto a rispettare. I moderatori si riservano il diritto di cancellare o modificare i commenti inseriti dagli utenti, senza dover fornire giustificazione alcuna. Gli utenti non registrati al forum inoltre sono sottoposti a moderazione preventiva. La responsabilita' dei commenti ricade esclusivamente sui rispettivi autori. I principali consigli: rimani sempre in argomento; evita commenti offensivi, volgari, violenti o che inneggiano all'illegalita'; non inserire dati personali, link inutili o spam in generale.
E' VIETATA la riproduzione dei testi e delle immagini senza l'espressa autorizzazione scritta di Zeus News. Tutti i marchi e i marchi registrati citati sono di proprietà delle rispettive società. Informativa sulla privacy. I tuoi suggerimenti sono di vitale importanza per Zeus News. Contatta la redazione e contribuisci anche tu a migliorare il sito: pubblicheremo sui forum le lettere piu' interessanti.
Sondaggio
Ti piacciono i giochi e gli enigmi matematici?
La matematica l'ho lasciata a scuola e non ne sento la mancanza
La utilizzo e mi piace nel mio lavoro, non per giocarci
Si, ma il mio limite è "unisci i puntini"
Quando me ne capita uno tra le mani, non mi tiro indietro
Li faccio di frequente e sono il miglior modo per mantenere attiva la mente
Giurerei che questo sondaggio nasconde un messaggio cifrato

Mostra i risultati (2925 voti)
Gennaio 2021
Fregare Big Pharma con il vaccino
Alternative a WhatsApp
Un'opera da fantascienza costruita a tempo di record per scopi militari
Ho-mobile ammette la violazione dei dati dei clienti
Dicembre 2020
Il sito che svela quali tracce lasci quando navighi nel web
Zoom, arrivano l'email e il calendario
Spid creepshow, la sospensione
Windows 10, Cpu al 100% e molti problemi dopo l'ultimo update
Pirati che usano satelliti militari per comunicare e come ascoltarli
Google, i disservizi mostrano tutta la fragilità della tecnologia
CentOS, c'è un successore
La gabbia per il router che elimina le radiazioni elettromagnetiche
Falla spettacolare negli iPhone
La storia segreta di un gioiello scientifico
Microsoft brevetta la tecnologia per eliminare le riunioni inutili
Tutti gli Arretrati


web metrics