Norman, la prima intelligenza artificiale psicopatica



[ZEUS News - www.zeusnews.it - 05-06-2018]

norman mit ia psicopatica

È stata creata al MIT Media Lab e battezzata Norman, come il Norman Bates di Psycho, la prima intelligenza artificiale sviluppata appositamente per essere psicopatica.

Gli scienziati del MIT non stanno però cercando di affrettare un'apocalisse robot o creare scenari da Terminator.

Più semplicemente, vogliono dimostrare come lo sviluppo delle intelligenze artificiali sia pesantemente influenzato dai dati che vengono loro sottoposti per l'analisi durante la fase di "addestramento", indispensabile per insegnare loro a svolgere i compiti per i quali vengono create.

L'addestramento di Norman è consistito nell'analisi di immagini provienienti dalle «zone più oscure di Reddit», e in particolare di quelle provenienti da un subreddit «dedicato a documentare e osservare l'inquietante realtà della morte».

Completata questa fase, Norman è stato sottoposto a un test di Rorschach (quello con le macchie d'inchiostro): l'intelligenza artificiale ha dovuto indicare una didascalia per ogni macchia, mentre una rete neurale addestrata con il Coco Dataset (certamente non macabro come quello di Norman) faceva lo stesso.

I risultati del test hanno dato ragione ai ricercatori del MIT: i dati con i quali una IA viene addestrata influenzano completamente il suo modo di interpretare la realtà.

Per esempio, laddove la IA "normale" vede «un primo piano di un vaso di fiori», quella psicopatica trova «un uomo colpito a morte da un proiettile»; oppure ciò che per una è «la foto in bianco e nero di un ombrello rosso e bianco» per l'altra diventa «un uomo viene ucciso da una scarica elettrica mentre cerca di attraversare una strada trafficata».

Sondaggio
Quando acquisti un elettrodomestico per la casa, valuti soprattutto...
che il CONSUMO energetico non sia elevato.
che lo SPAZIO occupato non sia eccessivo.
che mi faccia risparmiare TEMPO.
che il COSTO di acquisto sia basso.

Mostra i risultati (2240 voti)
Leggi i commenti

In conclusione - dicono i ricercatori - non dobbiamo incolpare gli algoritmi per il modo in cui si comportano le IA; una buona parte della responsabilità sta invece nei dati che vengono loro sottoposti, che per lo più si basano su contenuti prodotti da esseri umani.

Per cui quando Satya Nadella, CEO di Microsoft, chiede che venga stilata una lista di principi etici per lo sviluppo dell'intelligenza artificiale e allo stesso tempo sostiene che i robot non faranno sparire i posti di lavoro degli esseri umani, bisogna rispondere che le eventualità che qualcosa vada storto dipende dal modo in cui alle IA è stato insegnato a ragionare.

Insomma, la colpa di un'eventuale apocalisse robot sarebbe ancora degli uomini.

Norman Rorschach

Qui sotto, le risposte al test di Rorschach date da Norman e dalla IA "normale".

Se questo articolo ti è piaciuto e vuoi rimanere sempre informato con Zeus News ti consigliamo di iscriverti alla Newsletter gratuita. Inoltre puoi consigliare l'articolo utilizzando uno dei pulsanti qui sotto, inserire un commento (anche anonimo) o segnalare un refuso.
© RIPRODUZIONE RISERVATA

Commenti all'articolo (2)

E si è dovuto programmare una IA psicopatica e farle fare tutti quei test del piffero per scoprire l'acqua calda???? :shock: :umpf: Leggi tutto
6-6-2018 19:17

Le frasi sembrano vomitate in maniera random attingendo dal database di didascalie. Eccetto in uno o due casi, a me non sembrano azzeccare nulla, neanche sforzandomi di trovare la corrispondenza. A me sembrano che non ci sia stato un granché di programmazione dell'IA. In più fa fatica a dire cose coerenti. Ridicola la "foto in... Leggi tutto
5-6-2018 10:53

La liberta' di parola e' un diritto inviolabile, ma nei forum di Zeus News vige un regolamento che impone delle restrizioni e che l'utente e' tenuto a rispettare. I moderatori si riservano il diritto di cancellare o modificare i commenti inseriti dagli utenti, senza dover fornire giustificazione alcuna. Gli utenti non registrati al forum inoltre sono sottoposti a moderazione preventiva. La responsabilita' dei commenti ricade esclusivamente sui rispettivi autori. I principali consigli: rimani sempre in argomento; evita commenti offensivi, volgari, violenti o che inneggiano all'illegalita'; non inserire dati personali, link inutili o spam in generale.
E' VIETATA la riproduzione dei testi e delle immagini senza l'espressa autorizzazione scritta di Zeus News. Tutti i marchi e i marchi registrati citati sono di proprietà delle rispettive società. Informativa sulla privacy. I tuoi suggerimenti sono di vitale importanza per Zeus News. Contatta la redazione e contribuisci anche tu a migliorare il sito: pubblicheremo sui forum le lettere piu' interessanti.
Sondaggio
Sempre più siti richiedono dati personali in fase di registrazione. Tu come ti comporti?
Li concedo senza problemi.
Piuttosto rinuncio al servizio.
Inserisco dati falsi.
Li concedo solo se ho vera necessità del servizio e comunque solo se il sito mi sembra serio.

Mostra i risultati (5649 voti)
Novembre 2022
L'app per scaricare l'intera Wikipedia (e non solo)
La scorciatoia che sblocca Windows
Amazon Drive chiude i battenti
Le cinque migliori alternative a Z Library
Il visore VR che uccide i giocatori quando perdono
Gli Stati Uniti oscurano Z Library
Vodafone, sottratti oltre 300 GB di dati degli utenti
Pochi o tanti, ma contanti
Ottobre 2022
Chrome si prepara ad abbandonare i Windows ''vecchi''
iPhone 14, nessuno lo vuole?
Windows 11, in arrivo il primo "Momento"
TikTok, arrivano i contenuti per soli adulti
Addio Office, benvenuta Microsoft 365
La truffa del cosmonauta bloccato nello spazio
Windows 11, inizia la seconda fase degli update
Tutti gli Arretrati
Accadde oggi - 29 novembre


web metrics