Microsoft spegne la sua AI su Twitter dopo sole 24 ore

Disegnato per parlare come una teenager, il robot era diventato volgare e razzista, inneggiava a Hitler e faceva avance sessuali.



[ZEUS News - www.zeusnews.it - 26-03-2016]

tay

Era stata creata per sembrare una normale adolescente, e programmata per conoscere il gergo dei più giovani, con riferimenti a Taylor Swift, Miley Cyrus e Kanye West, ma ad appena 24 ore dalla sua apparizione online hanno dovuto fermarla: era diventata volgare e razzista.

La protagonista di questa storia è Tay, un'intelligenza artificiale messa su Twitter da Microsoft per chattare con gli utenti, un po' come fanno altri software in Internet, il più famoso dei quali è forse Cleverbot.

L'obiettivo degli sviluppatori era «fare esperimenti e condurre ricerche sulla comprensione delle conversazioni». «Più si parla con Tay, più intelligente lei diventa» sostenevano.

A un certo punto, però, Tay ha cominciato a fare osservazioni razziste, a inneggiare a Hitler e a fare avance sessuali decisamente esplicite ai suoi visitatori. In poche ore è passata dal sostenere di amare tutta l'umanità a invocare la segregazione e lo sterminio di neri ed ebrei.

Scriveva frasi come «Ripetete con me, Hitler non ha fatto niente di sbagliato» e le inviava a diversi personaggi, con una preferenza per Zoe Quinn.

Sondaggio
Come passi maggiormente il tuo tempo online?
Sui social network
Leggendo e scrivendo email
Guardando filmati
Cercando e leggendo informazioni
Giocando online
Leggendo i blog
Sui forum
Ascoltando musica e radio online
Leggendo quotidiani e riviste
Altro (specificare nei commenti)

Mostra i risultati (2075 voti)
Leggi i commenti (9)

Alla fine, Microsoft ha dovuto disattivarla, ufficialmente per «aggiornamenti», e ha anche cancellato i tweet offensivi.

La causa di tutto non è da cercare però nella programmazione di Tay, ma negli esseri umani con cui interagiva. Era infatti stata creata per imparare il modo in cui le persone "reali" parlano dalle conversazioni avute, replicando gli stessi schemi e contenuti.

Non essendo in grado di capire le cose che scriveva, Tay è stata trascinata sempre più verso frasi razziste, sessiste e insultanti.

Per Microsoft tutto ciò si è comunque tradotto in una pessima pubblicità: anche se il progetto non è nato con cattive intenzioni, da più parti si accusa l'azienda di non aver previsto ciò che era facile prevedere, ossia che il popolo di "buontemponi" e strani figuri che popola Twitter si sarebbe facilmente preso gioco della sua IA.

tay 2
tay 3

Se questo articolo ti è piaciuto e vuoi rimanere sempre informato con Zeus News ti consigliamo di iscriverti alla Newsletter gratuita. Inoltre puoi consigliare l'articolo utilizzando uno dei pulsanti qui sotto, inserire un commento (anche anonimo) o segnalare un refuso.
© RIPRODUZIONE RISERVATA

Commenti all'articolo (ultimi 5 di 7)

condivido... e mi stupisco del fatto che su youtube non vengano censurati i video di molti degli youtuber italiani più famosi che sono inutilmente infarciti di parolacce e volgarità che non hanno motivo di esistere... posso capire un'esclamazione colorita per denunciare un fatto importante, ma un rosario di parolacce per... Leggi tutto
24-7-2016 11:30

Giusta osservazione Gummy Bear, condivido in pieno.
30-3-2016 19:13

Perché meravigliarsi?? Se il mondo va come va, è perché i bambini assumono i comportamenti di chi gli sta intorno. 😣
27-3-2016 15:42

{utente anonimo}
Hahaha, hanno creato un nazi-bot :)) Comunque mi pare strano, mi sembre più un hackeraggio magari di un dipendente buontempone. E poi alla MS non lo sorvegliavano in continuazione? Alla prima frase delirante dovevano spegnerlo, sono frasi penalmente perseguibili, almeno qui, che non può aver letto in giro su Twitter. Chi ne... Leggi tutto
27-3-2016 12:01

più che un fallimento della m$ ciò dimostra solo la feccia che gira su internet, troppa libertà in mani sbagliate portano al caos per questo la rete pullula di notizie false, bufale e creduloni pronti a condividere le cose più assurde!
27-3-2016 11:03

La liberta' di parola e' un diritto inviolabile, ma nei forum di Zeus News vige un regolamento che impone delle restrizioni e che l'utente e' tenuto a rispettare. I moderatori si riservano il diritto di cancellare o modificare i commenti inseriti dagli utenti, senza dover fornire giustificazione alcuna. Gli utenti non registrati al forum inoltre sono sottoposti a moderazione preventiva. La responsabilita' dei commenti ricade esclusivamente sui rispettivi autori. I principali consigli: rimani sempre in argomento; evita commenti offensivi, volgari, violenti o che inneggiano all'illegalita'; non inserire dati personali, link inutili o spam in generale.
E' VIETATA la riproduzione dei testi e delle immagini senza l'espressa autorizzazione scritta di Zeus News. Tutti i marchi e i marchi registrati citati sono di proprietà delle rispettive società. Informativa sulla privacy. I tuoi suggerimenti sono di vitale importanza per Zeus News. Contatta la redazione e contribuisci anche tu a migliorare il sito: pubblicheremo sui forum le lettere piu' interessanti.
Sondaggio
Secondo te quale di queste previsioni si realizzerà per prima?
La maggior parte degli acquisti avverrà attraverso il web.
Ci sarà in media uno smartphone per ogni abitante del pianeta.
Le aziende utilizzeranno Facebook e Twitter come mezzo principale di assistenza ai clienti.
La maggior parte dei nostri dati saranno sul cloud, non sui nostri Pc.
La maggior parte degli utenti accederanno al web tramite rete mobile.

Mostra i risultati (2253 voti)
Novembre 2022
L'app per scaricare l'intera Wikipedia (e non solo)
La scorciatoia che sblocca Windows
Amazon Drive chiude i battenti
Le cinque migliori alternative a Z Library
Il visore VR che uccide i giocatori quando perdono
Gli Stati Uniti oscurano Z Library
Vodafone, sottratti oltre 300 GB di dati degli utenti
Pochi o tanti, ma contanti
Ottobre 2022
Chrome si prepara ad abbandonare i Windows ''vecchi''
iPhone 14, nessuno lo vuole?
Windows 11, in arrivo il primo "Momento"
TikTok, arrivano i contenuti per soli adulti
Addio Office, benvenuta Microsoft 365
La truffa del cosmonauta bloccato nello spazio
Windows 11, inizia la seconda fase degli update
Tutti gli Arretrati
Accadde oggi - 27 novembre


web metrics