Norman, la prima intelligenza artificiale psicopatica



[ZEUS News - www.zeusnews.it - 05-06-2018]

norman mit ia psicopatica

È stata creata al MIT Media Lab e battezzata Norman, come il Norman Bates di Psycho, la prima intelligenza artificiale sviluppata appositamente per essere psicopatica.

Gli scienziati del MIT non stanno però cercando di affrettare un'apocalisse robot o creare scenari da Terminator.

Più semplicemente, vogliono dimostrare come lo sviluppo delle intelligenze artificiali sia pesantemente influenzato dai dati che vengono loro sottoposti per l'analisi durante la fase di "addestramento", indispensabile per insegnare loro a svolgere i compiti per i quali vengono create.

L'addestramento di Norman è consistito nell'analisi di immagini provienienti dalle «zone più oscure di Reddit», e in particolare di quelle provenienti da un subreddit «dedicato a documentare e osservare l'inquietante realtà della morte».

Completata questa fase, Norman è stato sottoposto a un test di Rorschach (quello con le macchie d'inchiostro): l'intelligenza artificiale ha dovuto indicare una didascalia per ogni macchia, mentre una rete neurale addestrata con il Coco Dataset (certamente non macabro come quello di Norman) faceva lo stesso.

I risultati del test hanno dato ragione ai ricercatori del MIT: i dati con i quali una IA viene addestrata influenzano completamente il suo modo di interpretare la realtà.

Per esempio, laddove la IA "normale" vede «un primo piano di un vaso di fiori», quella psicopatica trova «un uomo colpito a morte da un proiettile»; oppure ciò che per una è «la foto in bianco e nero di un ombrello rosso e bianco» per l'altra diventa «un uomo viene ucciso da una scarica elettrica mentre cerca di attraversare una strada trafficata».

Sondaggio
Quando acquisti un elettrodomestico per la casa, valuti soprattutto...
che il CONSUMO energetico non sia elevato.
che lo SPAZIO occupato non sia eccessivo.
che mi faccia risparmiare TEMPO.
che il COSTO di acquisto sia basso.

Mostra i risultati (1890 voti)
Leggi i commenti

In conclusione - dicono i ricercatori - non dobbiamo incolpare gli algoritmi per il modo in cui si comportano le IA; una buona parte della responsabilità sta invece nei dati che vengono loro sottoposti, che per lo più si basano su contenuti prodotti da esseri umani.

Per cui quando Satya Nadella, CEO di Microsoft, chiede che venga stilata una lista di principi etici per lo sviluppo dell'intelligenza artificiale e allo stesso tempo sostiene che i robot non faranno sparire i posti di lavoro degli esseri umani, bisogna rispondere che le eventualità che qualcosa vada storto dipende dal modo in cui alle IA è stato insegnato a ragionare.

Insomma, la colpa di un'eventuale apocalisse robot sarebbe ancora degli uomini.

Norman Rorschach

Qui sotto, le risposte al test di Rorschach date da Norman e dalla IA "normale".

Se questo articolo ti è piaciuto e vuoi rimanere sempre informato con Zeus News ti consigliamo di iscriverti alla Newsletter gratuita. Inoltre puoi consigliare l'articolo utilizzando uno dei pulsanti qui sotto, inserire un commento (anche anonimo) o segnalare un refuso.
© RIPRODUZIONE RISERVATA

Approfondimenti
L'Assistente di Google spara e uccide una mela
Intelligenza artificiale e robotica: demo impressionanti
L'assistente di Google ora fa telefonate e prende appuntamenti
Scienziati avvertono: alieni potrebbero distruggerci con malware extraterrestre
L'Intelligenza Artificiale che fa disegni su ordinazione
Intelligenza artificiale sostituisce volti nei video, inganno quasi perfetto
Manderesti le tue foto osé a Facebook per prevenire il revenge porn?
Microsoft e Amazon si alleano per l'intelligenza artificiale
Quattordicenne suicida, Moige contro Facebook
È morto il padre dell'Intelligenza Artificiale
Il mondo dei robot, edizione 2009
Robocop non è soltanto un film

Commenti all'articolo (2)

E si è dovuto programmare una IA psicopatica e farle fare tutti quei test del piffero per scoprire l'acqua calda???? :shock: :umpf: Leggi tutto
6-6-2018 19:17

Le frasi sembrano vomitate in maniera random attingendo dal database di didascalie. Eccetto in uno o due casi, a me non sembrano azzeccare nulla, neanche sforzandomi di trovare la corrispondenza. A me sembrano che non ci sia stato un granché di programmazione dell'IA. In più fa fatica a dire cose coerenti. Ridicola la "foto in... Leggi tutto
5-6-2018 10:53

La liberta' di parola e' un diritto inviolabile, ma nei forum di Zeus News vige un regolamento che impone delle restrizioni e che l'utente e' tenuto a rispettare. I moderatori si riservano il diritto di cancellare o modificare i commenti inseriti dagli utenti, senza dover fornire giustificazione alcuna. Gli utenti non registrati al forum inoltre sono sottoposti a moderazione preventiva. La responsabilita' dei commenti ricade esclusivamente sui rispettivi autori. I principali consigli: rimani sempre in argomento; evita commenti offensivi, volgari, violenti o che inneggiano all'illegalita'; non inserire dati personali, link inutili o spam in generale.
E' VIETATA la riproduzione dei testi e delle immagini senza l'espressa autorizzazione scritta di Zeus News. Tutti i marchi e i marchi registrati citati sono di proprietà delle rispettive società. Informativa sulla privacy. I tuoi suggerimenti sono di vitale importanza per Zeus News. Contatta la redazione e contribuisci anche tu a migliorare il sito: pubblicheremo sui forum le lettere piu' interessanti.
Sondaggio
Qual è il momento della giornata in cui ti senti più creativo?
Alla mattina presto
A metà mattinata
All'ora di pranzo
Nel primo pomeriggio
Nel tardo pomeriggio
All'ora di cena
Di sera
A notte fonda
In un qualsiasi momento
Non sono per niente creativo

Mostra i risultati (1837 voti)
Dicembre 2018
Italia, carta d'identità obbligatoria per iscriversi ai social network
Mail di porno-estorsione, versione italiana: siamo ai saldi
L'open Internet rischia di chiudersi
Robot di Amazon manda all'ospedale 24 dipendenti
Le aziende si preparano a sostituire il Wi-Fi con reti 5G private
Lo smartphone con Linux e KDE che non è un telefono cellulare
Hacker viola 50.000 stampanti per invitare tutti su un canale Youtube
Novembre 2018
Facebook e il caso dei messaggi zombie
Malware nei portatili Lenovo, utenti risarciti con 7,3 milioni di dollari
Gioca dal vivo a PUBG e uccide l'amico
Amazon, nomi e indirizzi email degli utenti rivelati per errore
Bethesda e la patch da quasi 50 gigabyte per Fallout 76
Sai che cos'è il phishing? Allora hai più probabilità di cascarci
Il Garante privacy boccia la fattura elettronica
Windows 10, ritorna l'October Update
Tutti gli Arretrati


web metrics