Norman, la prima intelligenza artificiale psicopatica



[ZEUS News - www.zeusnews.it - 05-06-2018]

norman mit ia psicopatica

È stata creata al MIT Media Lab e battezzata Norman, come il Norman Bates di Psycho, la prima intelligenza artificiale sviluppata appositamente per essere psicopatica.

Gli scienziati del MIT non stanno però cercando di affrettare un'apocalisse robot o creare scenari da Terminator.

Più semplicemente, vogliono dimostrare come lo sviluppo delle intelligenze artificiali sia pesantemente influenzato dai dati che vengono loro sottoposti per l'analisi durante la fase di "addestramento", indispensabile per insegnare loro a svolgere i compiti per i quali vengono create.

L'addestramento di Norman è consistito nell'analisi di immagini provienienti dalle «zone più oscure di Reddit», e in particolare di quelle provenienti da un subreddit «dedicato a documentare e osservare l'inquietante realtà della morte».

Completata questa fase, Norman è stato sottoposto a un test di Rorschach (quello con le macchie d'inchiostro): l'intelligenza artificiale ha dovuto indicare una didascalia per ogni macchia, mentre una rete neurale addestrata con il Coco Dataset (certamente non macabro come quello di Norman) faceva lo stesso.

I risultati del test hanno dato ragione ai ricercatori del MIT: i dati con i quali una IA viene addestrata influenzano completamente il suo modo di interpretare la realtà.

Per esempio, laddove la IA "normale" vede «un primo piano di un vaso di fiori», quella psicopatica trova «un uomo colpito a morte da un proiettile»; oppure ciò che per una è «la foto in bianco e nero di un ombrello rosso e bianco» per l'altra diventa «un uomo viene ucciso da una scarica elettrica mentre cerca di attraversare una strada trafficata».

Sondaggio
Quando acquisti un elettrodomestico per la casa, valuti soprattutto...
che il CONSUMO energetico non sia elevato.
che lo SPAZIO occupato non sia eccessivo.
che mi faccia risparmiare TEMPO.
che il COSTO di acquisto sia basso.

Mostra i risultati (1873 voti)
Leggi i commenti

In conclusione - dicono i ricercatori - non dobbiamo incolpare gli algoritmi per il modo in cui si comportano le IA; una buona parte della responsabilità sta invece nei dati che vengono loro sottoposti, che per lo più si basano su contenuti prodotti da esseri umani.

Per cui quando Satya Nadella, CEO di Microsoft, chiede che venga stilata una lista di principi etici per lo sviluppo dell'intelligenza artificiale e allo stesso tempo sostiene che i robot non faranno sparire i posti di lavoro degli esseri umani, bisogna rispondere che le eventualità che qualcosa vada storto dipende dal modo in cui alle IA è stato insegnato a ragionare.

Insomma, la colpa di un'eventuale apocalisse robot sarebbe ancora degli uomini.

Norman Rorschach

Qui sotto, le risposte al test di Rorschach date da Norman e dalla IA "normale".

Se questo articolo ti è piaciuto e vuoi rimanere sempre informato con Zeus News ti consigliamo di iscriverti alla Newsletter gratuita. Inoltre puoi consigliare l'articolo utilizzando uno dei pulsanti qui sotto, inserire un commento (anche anonimo) o segnalare un refuso.
© RIPRODUZIONE RISERVATA

Approfondimenti
L'Assistente di Google spara e uccide una mela
Intelligenza artificiale e robotica: demo impressionanti
L'assistente di Google ora fa telefonate e prende appuntamenti
Scienziati avvertono: alieni potrebbero distruggerci con malware extraterrestre
L'Intelligenza Artificiale che fa disegni su ordinazione
Intelligenza artificiale sostituisce volti nei video, inganno quasi perfetto
Manderesti le tue foto osé a Facebook per prevenire il revenge porn?
Microsoft e Amazon si alleano per l'intelligenza artificiale
Quattordicenne suicida, Moige contro Facebook
È morto il padre dell'Intelligenza Artificiale
Il mondo dei robot, edizione 2009
Robocop non è soltanto un film

Commenti all'articolo (2)

E si è dovuto programmare una IA psicopatica e farle fare tutti quei test del piffero per scoprire l'acqua calda???? :shock: :umpf: Leggi tutto
6-6-2018 19:17

Le frasi sembrano vomitate in maniera random attingendo dal database di didascalie. Eccetto in uno o due casi, a me non sembrano azzeccare nulla, neanche sforzandomi di trovare la corrispondenza. A me sembrano che non ci sia stato un granché di programmazione dell'IA. In più fa fatica a dire cose coerenti. Ridicola la "foto in... Leggi tutto
5-6-2018 10:53

La liberta' di parola e' un diritto inviolabile, ma nei forum di Zeus News vige un regolamento che impone delle restrizioni e che l'utente e' tenuto a rispettare. I moderatori si riservano il diritto di cancellare o modificare i commenti inseriti dagli utenti, senza dover fornire giustificazione alcuna. Gli utenti non registrati al forum inoltre sono sottoposti a moderazione preventiva. La responsabilita' dei commenti ricade esclusivamente sui rispettivi autori. I principali consigli: rimani sempre in argomento; evita commenti offensivi, volgari, violenti o che inneggiano all'illegalita'; non inserire dati personali, link inutili o spam in generale.
E' VIETATA la riproduzione dei testi e delle immagini senza l'espressa autorizzazione scritta di Zeus News. Tutti i marchi e i marchi registrati citati sono di proprietà delle rispettive società. Informativa sulla privacy. I tuoi suggerimenti sono di vitale importanza per Zeus News. Contatta la redazione e contribuisci anche tu a migliorare il sito: pubblicheremo sui forum le lettere piu' interessanti.
Sondaggio
Perché Twitter ha tanto successo?
Il limite di 140 caratteri obbliga a esprimersi con brevità e concisione.
Si possono condividere link interessanti velocemente e a un gran numero di persone.
L'integrazione con il cellulare consente di inviare e ricevere i tweet via Sms.
Consente di rimanere aggiornati su un determinato argomento in tempo reale
La motivazione è un'altra, ve la esplicito nei commenti qui sotto.

Mostra i risultati (996 voti)
Settembre 2018
Il fallimento di Windows Store: un documento interno ne rivela la portata
Corruzione in Amazon: dipendenti pagati per cancellare le recensioni negative
Copyright, il sito di sottotitoli ITASA costretto a gettare la spugna
Windows 10 deciderà in autonomia quali file tenere e quali cancellare
L'Europarlamento approva la riforma del diritto d'autore, il web teme la censura
Falla 0-day in Windows, i cybercriminali hanno iniziato gli attacchi
Volete tenere Windows 7? Il prezzo continuerà a crescere
Tor Browser 8.0, più facile da usare e più abile nell'aggirare la censura
Salvati dallo smartwatch: il monitoraggio della salute ha già salvato la vita a due uomini
iPhone XS e Apple Watch Serie 4, le prime foto trapelate in rete
Falla 0-day in Windows, ecco la correzione. Ma non proviene da Microsoft
Agosto 2018
Falla 0-day in Windows 10 consente di ottenere il controllo sul Pc
Tagliato fuori da Galileo, il Regno Unito si costruirà un proprio GPS
Black Hat 2018, svelata vulnerabilità imbarazzante
Windows 10 nasconde una versione "Universale" di Esplora File. Ecco come attivarla
Tutti gli Arretrati


web metrics