Norman, la prima intelligenza artificiale psicopatica



[ZEUS News - www.zeusnews.it - 05-06-2018]

norman mit ia psicopatica

È stata creata al MIT Media Lab e battezzata Norman, come il Norman Bates di Psycho, la prima intelligenza artificiale sviluppata appositamente per essere psicopatica.

Gli scienziati del MIT non stanno però cercando di affrettare un'apocalisse robot o creare scenari da Terminator.

Più semplicemente, vogliono dimostrare come lo sviluppo delle intelligenze artificiali sia pesantemente influenzato dai dati che vengono loro sottoposti per l'analisi durante la fase di "addestramento", indispensabile per insegnare loro a svolgere i compiti per i quali vengono create.

L'addestramento di Norman è consistito nell'analisi di immagini provienienti dalle «zone più oscure di Reddit», e in particolare di quelle provenienti da un subreddit «dedicato a documentare e osservare l'inquietante realtà della morte».

Completata questa fase, Norman è stato sottoposto a un test di Rorschach (quello con le macchie d'inchiostro): l'intelligenza artificiale ha dovuto indicare una didascalia per ogni macchia, mentre una rete neurale addestrata con il Coco Dataset (certamente non macabro come quello di Norman) faceva lo stesso.

I risultati del test hanno dato ragione ai ricercatori del MIT: i dati con i quali una IA viene addestrata influenzano completamente il suo modo di interpretare la realtà.

Per esempio, laddove la IA "normale" vede «un primo piano di un vaso di fiori», quella psicopatica trova «un uomo colpito a morte da un proiettile»; oppure ciò che per una è «la foto in bianco e nero di un ombrello rosso e bianco» per l'altra diventa «un uomo viene ucciso da una scarica elettrica mentre cerca di attraversare una strada trafficata».

Sondaggio
Quando acquisti un elettrodomestico per la casa, valuti soprattutto...
che il CONSUMO energetico non sia elevato.
che lo SPAZIO occupato non sia eccessivo.
che mi faccia risparmiare TEMPO.
che il COSTO di acquisto sia basso.

Mostra i risultati (2436 voti)
Leggi i commenti

In conclusione - dicono i ricercatori - non dobbiamo incolpare gli algoritmi per il modo in cui si comportano le IA; una buona parte della responsabilità sta invece nei dati che vengono loro sottoposti, che per lo più si basano su contenuti prodotti da esseri umani.

Per cui quando Satya Nadella, CEO di Microsoft, chiede che venga stilata una lista di principi etici per lo sviluppo dell'intelligenza artificiale e allo stesso tempo sostiene che i robot non faranno sparire i posti di lavoro degli esseri umani, bisogna rispondere che le eventualità che qualcosa vada storto dipende dal modo in cui alle IA è stato insegnato a ragionare.

Insomma, la colpa di un'eventuale apocalisse robot sarebbe ancora degli uomini.

Norman Rorschach

Qui sotto, le risposte al test di Rorschach date da Norman e dalla IA "normale".

Se questo articolo ti è piaciuto e vuoi rimanere sempre informato con Zeus News ti consigliamo di iscriverti alla Newsletter gratuita. Inoltre puoi consigliare l'articolo utilizzando uno dei pulsanti qui sotto, inserire un commento (anche anonimo) o segnalare un refuso.

Commenti all'articolo (2)

[quote]Insomma, la colpa di un'eventuale apocalisse robot sarebbe ancora degli uomini.[/quote]E si è dovuto programmare una IA psicopatica e farle fare tutti quei test del piffero per scoprire l'acqua calda???? :shock: :umpf:
6-6-2018 19:17

Le frasi sembrano vomitate in maniera random attingendo dal database di didascalie. Eccetto in uno o due casi, a me non sembrano azzeccare nulla, neanche sforzandomi di trovare la corrispondenza.A me sembrano che non ci sia stato un granché di programmazione dell'IA.In più fa fatica a dire cose coerenti. Ridicola la "foto in bianco e... Leggi tutto
5-6-2018 10:53

La liberta' di parola e' un diritto inviolabile, ma nei forum di Zeus News vige un regolamento che impone delle restrizioni e che l'utente e' tenuto a rispettare. I moderatori si riservano il diritto di cancellare o modificare i commenti inseriti dagli utenti, senza dover fornire giustificazione alcuna. Gli utenti non registrati al forum inoltre sono sottoposti a moderazione preventiva. La responsabilita' dei commenti ricade esclusivamente sui rispettivi autori. I principali consigli: rimani sempre in argomento; evita commenti offensivi, volgari, violenti o che inneggiano all'illegalita'; non inserire dati personali, link inutili o spam in generale.
E' VIETATA la riproduzione dei testi e delle immagini senza l'espressa autorizzazione scritta di Zeus News. Tutti i marchi e i marchi registrati citati sono di proprietà delle rispettive società. Informativa sulla privacy. I tuoi suggerimenti sono di vitale importanza per Zeus News. Contatta la redazione e contribuisci anche tu a migliorare il sito: pubblicheremo sui forum le lettere piu' interessanti.
Sondaggio
Quali tra questi tuoi dati personali sono pubblici sui social network (chiunque può vederli e non solo i tuoi amici)?
Solo il mio nome per intero e la foto del profilo
In teoria tutto, non mi preoccupo delle impostazioni per la privacy
Nome completo, foto e post
Nome completo, foto, status, geolocalizzazioni e check-in
Non ci ho mai pensato

Mostra i risultati (1134 voti)
Leggi i commenti (11)
Novembre 2026
Revolut sotto amministrazione giudiziaria: i soldi sono al sicuro?
L'alternativa a Gestione Attività che registra ogni dettaglio del PC
Microsoft in tilt, servizi cloud bloccati in tutto il mondo
Il bug delle schede Radeon che consuma gli SSD
Windows 11 27H2 sarà un Windows 12 in tutto, tranne che nel nome
L'utility che svela chi occupa davvero la GPU del PC
Windows 11, anche Defrag si merita una mano di vernice
Mercedes trasforma il parabrezza in uno schermo olografico
L'app per Windows che installa, aggiorna e migra oltre 800 applicazioni
Android, un SMS invisibile blocca le chiamate e manda in crisi lo smartphone
Sam Altman: Troppa RAM nei PC dei privati, dovrebbe finire nei data center dell'IA
Ottobre 2026
L'ex CEO di Intel ha la soluzione per la crisi delle memorie
L'app gratuita per Windows che converte quasi qualsiasi file
L'IA resuscita i nastri magnetici: Fujifilm investirà milioni per quintuplicare la produzione
Phishing PagoPA, la truffa arriva via PEC
Tutti gli Arretrati
Accadde oggi - 18 novembre