Microsoft spegne la sua AI su Twitter dopo sole 24 ore

Disegnato per parlare come una teenager, il robot era diventato volgare e razzista, inneggiava a Hitler e faceva avance sessuali.



[ZEUS News - www.zeusnews.it - 26-03-2016]

tay

Era stata creata per sembrare una normale adolescente, e programmata per conoscere il gergo dei più giovani, con riferimenti a Taylor Swift, Miley Cyrus e Kanye West, ma ad appena 24 ore dalla sua apparizione online hanno dovuto fermarla: era diventata volgare e razzista.

La protagonista di questa storia è Tay, un'intelligenza artificiale messa su Twitter da Microsoft per chattare con gli utenti, un po' come fanno altri software in Internet, il più famoso dei quali è forse Cleverbot.

L'obiettivo degli sviluppatori era «fare esperimenti e condurre ricerche sulla comprensione delle conversazioni». «Più si parla con Tay, più intelligente lei diventa» sostenevano.

A un certo punto, però, Tay ha cominciato a fare osservazioni razziste, a inneggiare a Hitler e a fare avance sessuali decisamente esplicite ai suoi visitatori. In poche ore è passata dal sostenere di amare tutta l'umanità a invocare la segregazione e lo sterminio di neri ed ebrei.

Scriveva frasi come «Ripetete con me, Hitler non ha fatto niente di sbagliato» e le inviava a diversi personaggi, con una preferenza per Zoe Quinn.

Sondaggio
Come passi maggiormente il tuo tempo online?
Sui social network
Leggendo e scrivendo email
Guardando filmati
Cercando e leggendo informazioni
Giocando online
Leggendo i blog
Sui forum
Ascoltando musica e radio online
Leggendo quotidiani e riviste
Altro (specificare nei commenti)

Mostra i risultati (2183 voti)
Leggi i commenti (11)

Alla fine, Microsoft ha dovuto disattivarla, ufficialmente per «aggiornamenti», e ha anche cancellato i tweet offensivi.

La causa di tutto non è da cercare però nella programmazione di Tay, ma negli esseri umani con cui interagiva. Era infatti stata creata per imparare il modo in cui le persone "reali" parlano dalle conversazioni avute, replicando gli stessi schemi e contenuti.

Non essendo in grado di capire le cose che scriveva, Tay è stata trascinata sempre più verso frasi razziste, sessiste e insultanti.

Per Microsoft tutto ciò si è comunque tradotto in una pessima pubblicità: anche se il progetto non è nato con cattive intenzioni, da più parti si accusa l'azienda di non aver previsto ciò che era facile prevedere, ossia che il popolo di "buontemponi" e strani figuri che popola Twitter si sarebbe facilmente preso gioco della sua IA.

tay 2
tay 3

Se questo articolo ti è piaciuto e vuoi rimanere sempre informato con Zeus News ti consigliamo di iscriverti alla Newsletter gratuita. Inoltre puoi consigliare l'articolo utilizzando uno dei pulsanti qui sotto, inserire un commento (anche anonimo) o segnalare un refuso.
© RIPRODUZIONE RISERVATA

Commenti all'articolo (ultimi 5 di 7)

condivido... e mi stupisco del fatto che su youtube non vengano censurati i video di molti degli youtuber italiani più famosi che sono inutilmente infarciti di parolacce e volgarità che non hanno motivo di esistere... posso capire un'esclamazione colorita per denunciare un fatto importante, ma un rosario di parolacce per... Leggi tutto
24-7-2016 11:30

Giusta osservazione Gummy Bear, condivido in pieno.
30-3-2016 19:13

Perché meravigliarsi?? Se il mondo va come va, è perché i bambini assumono i comportamenti di chi gli sta intorno. 😣
27-3-2016 15:42

{utente anonimo}
Hahaha, hanno creato un nazi-bot :)) Comunque mi pare strano, mi sembre più un hackeraggio magari di un dipendente buontempone. E poi alla MS non lo sorvegliavano in continuazione? Alla prima frase delirante dovevano spegnerlo, sono frasi penalmente perseguibili, almeno qui, che non può aver letto in giro su Twitter. Chi ne... Leggi tutto
27-3-2016 12:01

più che un fallimento della m$ ciò dimostra solo la feccia che gira su internet, troppa libertà in mani sbagliate portano al caos per questo la rete pullula di notizie false, bufale e creduloni pronti a condividere le cose più assurde!
27-3-2016 11:03

La liberta' di parola e' un diritto inviolabile, ma nei forum di Zeus News vige un regolamento che impone delle restrizioni e che l'utente e' tenuto a rispettare. I moderatori si riservano il diritto di cancellare o modificare i commenti inseriti dagli utenti, senza dover fornire giustificazione alcuna. Gli utenti non registrati al forum inoltre sono sottoposti a moderazione preventiva. La responsabilita' dei commenti ricade esclusivamente sui rispettivi autori. I principali consigli: rimani sempre in argomento; evita commenti offensivi, volgari, violenti o che inneggiano all'illegalita'; non inserire dati personali, link inutili o spam in generale.
E' VIETATA la riproduzione dei testi e delle immagini senza l'espressa autorizzazione scritta di Zeus News. Tutti i marchi e i marchi registrati citati sono di proprietà delle rispettive società. Informativa sulla privacy. I tuoi suggerimenti sono di vitale importanza per Zeus News. Contatta la redazione e contribuisci anche tu a migliorare il sito: pubblicheremo sui forum le lettere piu' interessanti.
Sondaggio
Quando hai problemi col Pc a chi ti rivolgi?
A chi me lo ha venduto
A un tecnico specializzato
A un amico o a un parente più esperto
Chiedo su un forum
Chiedo su Facebook
Cerco di risolvere il problema da solo
Se il problema sembra serio, non perdo tempo: formatto
Mi limito a imprecare

Mostra i risultati (4804 voti)
Aprile 2025
Intel pronta a licenziare 20.000 persone
Fire TV stick, Amazon pronta a lasciare Android per Vega OS
Siti per adulti, Agcom impone la verifica dell’età con il doppio anonimato
Android sempre più esigente: ora servono almeno 32 Gbyte
Il terzo giorno Android si riavvia
Microsoft: ''Non toccate la cartella misteriosa''
Windows Recall, forse è la volta buona
Le funzioni di Skype che Teams non ha
WhatsApp per Windows: non aprite quell'immagine
Vibe coding: creare programmi senza saper programmare
Dalla Cina l'alternativa a HDMI e DisplayPort
Pesci d'aprile, ci casca anche la IA
Thunderbird si evolve: in arrivo una versione Pro e il servizio Thundermail
Segnali dal futuro
Marzo 2025
Windows 11, addio all'ultima scappatoia per evitare l'account online
Tutti gli Arretrati
Accadde oggi - 26 aprile


web metrics