È stata creata al MIT Media Lab e battezzata Norman, come il Norman Bates di Psycho, la prima intelligenza artificiale sviluppata appositamente per essere psicopatica.

Gli scienziati del MIT non stanno però cercando di affrettare un'apocalisse robot o creare scenari da Terminator.

Più semplicemente, vogliono dimostrare come lo sviluppo delle intelligenze artificiali sia pesantemente influenzato dai dati che vengono loro sottoposti per l'analisi durante la fase di "addestramento", indispensabile per insegnare loro a svolgere i compiti per i quali vengono create.

Spunti di approfondimento:

Da Amazon un robot capace di sostituire i lavoratori nei magazzini

L'intelligenza artificiale che trasforma le frasi in paesaggi realistici

Annunciata la prossima generazione di Windows

Personal killer robot

L'addestramento di Norman è consistito nell'analisi di immagini provienienti dalle «zone più oscure di Reddit», e in particolare di quelle provenienti da un subreddit «dedicato a documentare e osservare l'inquietante realtà della morte».

Completata questa fase, Norman è stato sottoposto a un test di Rorschach (quello con le macchie d'inchiostro): l'intelligenza artificiale ha dovuto indicare una didascalia per ogni macchia, mentre una rete neurale addestrata con il Coco Dataset (certamente non macabro come quello di Norman) faceva lo stesso.

I risultati del test hanno dato ragione ai ricercatori del MIT: i dati con i quali una IA viene addestrata influenzano completamente il suo modo di interpretare la realtà.

Per approfondire:

L'Assistente di Google spara e uccide una mela

Intelligenza artificiale e robotica: demo impressionanti

L'assistente di Google ora fa telefonate e prende appuntamenti

Scienziati avvertono: alieni potrebbero distruggerci con malware extraterrestre

Per esempio, laddove la IA "normale" vede «un primo piano di un vaso di fiori», quella psicopatica trova «un uomo colpito a morte da un proiettile»; oppure ciò che per una è «la foto in bianco e nero di un ombrello rosso e bianco» per l'altra diventa «un uomo viene ucciso da una scarica elettrica mentre cerca di attraversare una strada trafficata».

In conclusione - dicono i ricercatori - non dobbiamo incolpare gli algoritmi per il modo in cui si comportano le IA; una buona parte della responsabilità sta invece nei dati che vengono loro sottoposti, che per lo più si basano su contenuti prodotti da esseri umani.

Spunti di approfondimento:

L'Intelligenza Artificiale che fa disegni su ordinazione

Intelligenza artificiale sostituisce volti nei video, inganno quasi perfetto

Manderesti le tue foto osé a Facebook per prevenire il revenge porn?

Microsoft e Amazon si alleano per l'intelligenza artificiale

Per cui quando Satya Nadella, CEO di Microsoft, chiede che venga stilata una lista di principi etici per lo sviluppo dell'intelligenza artificiale e allo stesso tempo sostiene che i robot non faranno sparire i posti di lavoro degli esseri umani, bisogna rispondere che le eventualità che qualcosa vada storto dipende dal modo in cui alle IA è stato insegnato a ragionare.

Insomma, la colpa di un'eventuale apocalisse robot sarebbe ancora degli uomini.

Qui sotto, le risposte al test di Rorschach date da Norman e dalla IA "normale".

Spunti di approfondimento:

Quattordicenne suicida, Moige contro Facebook

È morto il padre dell'Intelligenza Artificiale

Il mondo dei robot, edizione 2009

Robocop non è soltanto un film