Norman, la prima intelligenza artificiale psicopatica



[ZEUS News - www.zeusnews.it - 05-06-2018]

norman mit ia psicopatica

È stata creata al MIT Media Lab e battezzata Norman, come il Norman Bates di Psycho, la prima intelligenza artificiale sviluppata appositamente per essere psicopatica.

Gli scienziati del MIT non stanno però cercando di affrettare un'apocalisse robot o creare scenari da Terminator.

Più semplicemente, vogliono dimostrare come lo sviluppo delle intelligenze artificiali sia pesantemente influenzato dai dati che vengono loro sottoposti per l'analisi durante la fase di "addestramento", indispensabile per insegnare loro a svolgere i compiti per i quali vengono create.

L'addestramento di Norman è consistito nell'analisi di immagini provienienti dalle «zone più oscure di Reddit», e in particolare di quelle provenienti da un subreddit «dedicato a documentare e osservare l'inquietante realtà della morte».

Completata questa fase, Norman è stato sottoposto a un test di Rorschach (quello con le macchie d'inchiostro): l'intelligenza artificiale ha dovuto indicare una didascalia per ogni macchia, mentre una rete neurale addestrata con il Coco Dataset (certamente non macabro come quello di Norman) faceva lo stesso.

I risultati del test hanno dato ragione ai ricercatori del MIT: i dati con i quali una IA viene addestrata influenzano completamente il suo modo di interpretare la realtà.

Per esempio, laddove la IA "normale" vede «un primo piano di un vaso di fiori», quella psicopatica trova «un uomo colpito a morte da un proiettile»; oppure ciò che per una è «la foto in bianco e nero di un ombrello rosso e bianco» per l'altra diventa «un uomo viene ucciso da una scarica elettrica mentre cerca di attraversare una strada trafficata».

Sondaggio
Quando acquisti un elettrodomestico per la casa, valuti soprattutto...
che il CONSUMO energetico non sia elevato.
che lo SPAZIO occupato non sia eccessivo.
che mi faccia risparmiare TEMPO.
che il COSTO di acquisto sia basso.

Mostra i risultati (2276 voti)
Leggi i commenti

In conclusione - dicono i ricercatori - non dobbiamo incolpare gli algoritmi per il modo in cui si comportano le IA; una buona parte della responsabilità sta invece nei dati che vengono loro sottoposti, che per lo più si basano su contenuti prodotti da esseri umani.

Per cui quando Satya Nadella, CEO di Microsoft, chiede che venga stilata una lista di principi etici per lo sviluppo dell'intelligenza artificiale e allo stesso tempo sostiene che i robot non faranno sparire i posti di lavoro degli esseri umani, bisogna rispondere che le eventualità che qualcosa vada storto dipende dal modo in cui alle IA è stato insegnato a ragionare.

Insomma, la colpa di un'eventuale apocalisse robot sarebbe ancora degli uomini.

Norman Rorschach

Qui sotto, le risposte al test di Rorschach date da Norman e dalla IA "normale".

Se questo articolo ti è piaciuto e vuoi rimanere sempre informato con Zeus News ti consigliamo di iscriverti alla Newsletter gratuita. Inoltre puoi consigliare l'articolo utilizzando uno dei pulsanti qui sotto, inserire un commento (anche anonimo) o segnalare un refuso.
© RIPRODUZIONE RISERVATA

Commenti all'articolo (2)

E si è dovuto programmare una IA psicopatica e farle fare tutti quei test del piffero per scoprire l'acqua calda???? :shock: :umpf: Leggi tutto
6-6-2018 19:17

Le frasi sembrano vomitate in maniera random attingendo dal database di didascalie. Eccetto in uno o due casi, a me non sembrano azzeccare nulla, neanche sforzandomi di trovare la corrispondenza. A me sembrano che non ci sia stato un granché di programmazione dell'IA. In più fa fatica a dire cose coerenti. Ridicola la "foto in... Leggi tutto
5-6-2018 10:53

La liberta' di parola e' un diritto inviolabile, ma nei forum di Zeus News vige un regolamento che impone delle restrizioni e che l'utente e' tenuto a rispettare. I moderatori si riservano il diritto di cancellare o modificare i commenti inseriti dagli utenti, senza dover fornire giustificazione alcuna. Gli utenti non registrati al forum inoltre sono sottoposti a moderazione preventiva. La responsabilita' dei commenti ricade esclusivamente sui rispettivi autori. I principali consigli: rimani sempre in argomento; evita commenti offensivi, volgari, violenti o che inneggiano all'illegalita'; non inserire dati personali, link inutili o spam in generale.
E' VIETATA la riproduzione dei testi e delle immagini senza l'espressa autorizzazione scritta di Zeus News. Tutti i marchi e i marchi registrati citati sono di proprietà delle rispettive società. Informativa sulla privacy. I tuoi suggerimenti sono di vitale importanza per Zeus News. Contatta la redazione e contribuisci anche tu a migliorare il sito: pubblicheremo sui forum le lettere piu' interessanti.
Sondaggio
Quale tra questi due candidati assumeresti?
Il primo ha più esperienza e competenze specifiche.
Il secondo è particolarmente brillante e ha un grande potenziale.

Mostra i risultati (1215 voti)
Settembre 2023
Microsoft, minireattori nucleari per alimentare i datacenter della IA
NFT senza valore, la bolla è scoppiata
X (ex Twitter), tutti gli utenti dovranno pagare
iPhone 15, il connettore USB-C è zoppo
Il bug di Windows che rende velocissimo Esplora File
Lidl, merendine ritirate: invitavano a visitare sito porno
Meta pensa a Instagram e Facebook a pagamento nella UE
Agosto 2023
Chrome, nuova interfaccia: ecco come abilitarla
L'Internet delle brutte Cose
LibreOffice balza dalla versione 7.6 alla 24.2
La scorciatoia che “congela” Gestione Attività
Ford agli utenti: spegnete il Wi-Fi dell'auto
Sony e Universal contro i 78 giri dell'Internet Archive
Meloni decide la nazionalizzazione di TIM
Da Z-Library un'estensione per aggirare i blocchi
Tutti gli Arretrati
Accadde oggi - 29 settembre


web metrics