Perché i computer sono stupidi?



[ZEUS News - www.zeusnews.it - 24-04-2021]

river

Si fa un gran parlare di intelligenza artificiale: computer che riconoscono la voce, come Siri o Alexa o OK Google, giocano a scacchi meglio degli esseri umani, identificano ed evitano ostacoli nella guida autonoma o assistita, con tempi di reazione fulminei e irraggiungibili per una persona. È facile pensare che siamo ormai vicini alla creazione di una vera intelligenza sintetica generalista, capace di competere con un essere umano.

Ma l'informatico statunitense Terry Winograd ha ideato un test che dimostra che non è affatto così. Il bello è che lo ha fatto nel 1972, e il suo test funziona ancora adesso. Non per nulla è diventato professore d'informatica alla Stanford University ed è considerato uno dei massimi esperti nel settore.

Il test di Winograd è beffardo, dal punto di vista degli informatici, per la sua semplicità. Una delle sue formulazioni tipiche è questa:

Il trofeo non ci stava nella valigia marrone perché era troppo grande.

Una frase banale, con una struttura grammaticale semplice e parole comunissime, perfettamente comprensibile. Talmente comprensibile e ovvia, per noi umani, che neanche ci accorgiamo che è ambigua. Quale dei due oggetti era troppo grande? Il trofeo o la valigia? Per noi la risposta è istantanea. Per un computer, invece, no.

Infatti una semplice analisi meccanica della frase ("questo è un sostantivo, questo è un verbo", eccetera) non consente di risolvere l'ambiguità. Per farlo bisogna sapere che cos'è un trofeo, che cos'è una valigia, quali sono i normali rapporti di dimensione fra trofei e valigie, che le valigie sono fatte per contenere oggetti e i trofei no, e il fatto che se l'oggetto A deve stare dentro l'oggetto B, non è un problema se l'oggetto B è molto più grande dell'oggetto A: bisogna sapere che le cose piccole possono stare dentro le cose grandi ma non viceversa.

Non è neanche possibile usare uno dei trucchi preferiti dei sistemi di intelligenza artificiale, ossia sfruttare un enorme corpus di testo e un po' di statistica per arrivare a una disambiguazione affidabile, o la tecnica tipica degli assistenti vocali, ossia estrarre le singole parole riconosciute e tirare a indovinare sul significato generale della frase. Serve esperienza del mondo.

Il test di Winograd ha varie versioni, chiamate schemi, composte da due frasi che sono differenti tra loro soltanto per una o due parole ma contengono un'ambiguità che si risolve in due modi opposti. Risolverla non è possibile usando le regole della grammatica e della sintassi: richiede conoscenza della realtà e ragionamento. Un computer che fosse capace di farlo sarebbe, all'atto pratico, intelligente.

Questo è un esempio di schema di Winograd:

I consiglieri comunali rifiutarono il permesso ai manifestanti perché temevano disordini

I consiglieri comunali rifiutarono il permesso ai manifestanti perché istigavano disordini

Le persone interpretano la prima frase nel senso che sono i consiglieri comunali a temere disordini; interpretano la seconda nel senso che gli istigatori sono i manifestanti. Lo fanno perché sanno cosa sono i consiglieri comunali e quali sono i loro compiti, e sanno che cosa sono le manifestazioni e le loro possibili conseguenze.

Beh, direte voi, ma frasi ambigue come queste sono rare. Invece no: un gruppo di ricercatori ne ha radunati 150 esempi, da usare come test d'intelligenza per computer. Frasi banalissime, come "ho messo un libro pesante sul tavolo e si è rotto". Persino GPT-2, uno dei sistemi di intelligenza artificiale più moderni applicato al linguaggio, va in crisi di fronte agli schemi di Winograd, come spiega bene Tom Scott in questo video.

Potremmo risolvere il problema rivolgendoci ai computer in modo meno ambiguo? È improbabile. Il guaio è, infatti, che siamo talmente abituati a usare sottintesi basati sulla conoscenza del contesto che troveremmo estenuante parlare o scrivere in maniera perfettamente non ambigua.

Questa necessità di avere contesto per capire e risolvere le ambiguità non è solo una questione linguistica: è un ostacolo per un settore delicatissimo come la guida autonoma.

Un'automobile che usi un sistema di puro riconoscimento delle immagini, per esempio, verrà confusa dall'immagine della bambina in mezzo alla strada che vedete all'inizio di questo articolo e probabilmente frenerà di colpo per non colpirla. Al sistema mancano il contesto temporale (la deduzione delle forme reali a partire dal modo in cui cambia l'aspetto nel corso del tempo, e alcuni costruttori ci stanno lavorando) e la conoscenza del comportamento dei bambini: due cose che consentono di capire che non ha senso che una bambina sia perfettamente immobile in quella posizione e che la forma della "bambina" cambia, man mano che ci si avvicina, in un modo che rivela senza dubbio che si tratta di un disegno applicato alla superficie stradale.

Senza dubbio, s'intende, se siete esseri umani. Forse servono strade disambiguate, percorsi semplificati e ben demarcati, che vengano incontro alle limitate capacità dei sistemi di guida autonoma attuali.

Chiarisco che qui non si tratta di rivendicare una superiorità innata e invalicabile dei cervelli biologici su quelli sintetici: non è la materia prima che fa la differenza, è la conoscenza associata agli oggetti che vengono elaborati. Noi l'abbiamo (la acquisiamo), ma le macchine no, perché non gliela diamo. Il giorno che sapremo insegnare a un computer questa conoscenza, avremo davvero macchine intelligenti.

In sintesi: l'intelligenza artificiale fallisce in modi profondamente "inumani". Dà l'illusione della comprensione. Questo rende particolarmente difficile prevedere i suoi errori e correggerli. Specialmente quando si è al volante. Ricordiamocene prima di affidarci a questi sistemi.

Se questo articolo ti è piaciuto e vuoi rimanere sempre informato con Zeus News ti consigliamo di iscriverti alla Newsletter gratuita. Inoltre puoi consigliare l'articolo utilizzando uno dei pulsanti qui sotto, inserire un commento (anche anonimo) o segnalare un refuso.
 

Paolo Attivissimo

(C) by Paolo Attivissimo - www.attivissimo.net.
Distribuzione libera, purché sia inclusa la presente dicitura.

Approfondimenti
Il deepfake che ha ingannato i politici era solo un sosia
Da Turing a Gpt-3, la lunga storia dell’Intelligenza artificiale
Animismo digitale
Robot assassini crescono
Un sito per far sorridere i soggetti delle vecchie foto
Da Microsoft un chatbot per parlare con il caro estinto
Il guanto per comandare il computer come in Minority Report
Tesla rilascia il nuovo software di guida autonoma a pochi utenti selezionati
Restauro fotografico con l'intelligenza artificiale
Vi fareste servire in negozio da questo robot teleguidato?
Elon Musk presenta il primo chip Neuralink funzionante
Photoshop e Intelligenza Artificiale riportano in vita gli imperatori romani
Post scritto da una IA inganna 26.000 persone
Il chip nel cervello di Elon Musk
Lo smartphone che si rifiuta di scattare foto a luci rosse
Riconoscimento facciale, per aggirarlo basta una foto
Musica personalizzata infinita con l'intelligenza artificiale
L'intelligenza artificiale che capisce se una foto è stata manipolata
Intelligenza artificiale genera volti, appartamenti, manga. E gattini
Intelligenza artificiale, arrivano i conduttori di TG virtuali
L'Intelligenza Artificiale che sa scrivere delle fake news convincenti
Il primo presentatore artificiale indistinguibile da un essere umano
L'intelligenza artificiale che trasforma chiunque in un ballerino provetto
L'intelligenza artificiale che vede attraverso i muri e segue i movimenti delle persone
Intelligenza artificiale e robotica: demo impressionanti
Scienziati avvertono: alieni potrebbero distruggerci con malware extraterrestre
Intelligenza artificiale sostituisce volti nei video, inganno quasi perfetto
Antibufala: ''robot di Facebook'' che parlano fra loro una lingua sconosciuta
R1, il robot-maggiordomo tutto italiano

Commenti all'articolo (ultimi 5 di 10)

Il guaio è che, invece, ci sono tante persone che non se ne ricordano e, aumentando la percentuale di automobili a guida autonoma di vari livelli basati su questi sistemi "inumanamente fallibili", il rischio che si corre a breve è che gli incidenti aumentino e non che calino. :-k Leggi tutto
1-5-2021 14:54

Perché gestiscono un'informazione alla volta, come gli analfabeti funzionali umani, che equivocherebbero senza fare una piega tutte le frasi dell'esempio. Leggi tutto
27-4-2021 01:04

{Franco Pe.}
Un sentitissimo GRAZIE a Paolo Attivissimo per aver chiarito in parole semplici (queste si comprensibili anche da chi non ha alcuna competenza informatica)che la cosiddetta Intelligenza Artificiale non ha niente a che fare con la vera intelligenza. Almeno per il momento, e chissà per quanto tempo ancora.
26-4-2021 19:57

{Bepi}
Ricordo una conferenza di Silvio Ceccato, proprio intorno ai primi anni '70, in cui sostenne che la difficoltà più grande per i computer sarebbe stata la traduzione da una lingua a un'altra, e fece l'esempio di questa frase: "Egli vide un elefante e una matita che mise in tasca".
26-4-2021 19:44

{Pepefernando64}
I computer sono stupidi se conoscevi il primo che ho comprato gli facevate avere la pensione perché handicappato
26-4-2021 18:07

La liberta' di parola e' un diritto inviolabile, ma nei forum di Zeus News vige un regolamento che impone delle restrizioni e che l'utente e' tenuto a rispettare. I moderatori si riservano il diritto di cancellare o modificare i commenti inseriti dagli utenti, senza dover fornire giustificazione alcuna. Gli utenti non registrati al forum inoltre sono sottoposti a moderazione preventiva. La responsabilita' dei commenti ricade esclusivamente sui rispettivi autori. I principali consigli: rimani sempre in argomento; evita commenti offensivi, volgari, violenti o che inneggiano all'illegalita'; non inserire dati personali, link inutili o spam in generale.
E' VIETATA la riproduzione dei testi e delle immagini senza l'espressa autorizzazione scritta di Zeus News. Tutti i marchi e i marchi registrati citati sono di proprietà delle rispettive società. Informativa sulla privacy. I tuoi suggerimenti sono di vitale importanza per Zeus News. Contatta la redazione e contribuisci anche tu a migliorare il sito: pubblicheremo sui forum le lettere piu' interessanti.
Sondaggio
Ad alta quota, secondo te, qual è il comportamento più fastidioso?
Il passeggero della fila avanti che reclina lo schienale, senza nemmeno girarsi e avvisarti gentilmente.
Il passeggero della fila dietro che punta le piante dei piedi (o le ginocchia) nella parte alta del sedile.
I bambini che urlano ripetutamente o infastidiscono gli altri passeggeri, senza che i genitori intervengano.
Il passeggero che puzza di sudore.
Il passeggero che ascolta la musica ad alto volume.
Il passeggero che si ubriaca in volo.
Il passeggero che cerca di psicanalizzarti... per tutto il viaggio.
Il passeggero che si allarga sui braccioli del vicino.
I passeggeri che amoreggiano durante il volo.
Il passeggero che cerca di rimorchiare.

Mostra i risultati (2435 voti)
Luglio 2021
Windows 10, svelato l'aggiornamento 21H2
Zitto zitto, il Parlamento Europeo vara la sorveglianza di massa di tutte le email
La UE ci riprova col caricabatterie unico
Stuxnet, il virus informatico più distruttivo della storia
Windows 11, niente update da Windows 7 e 8.1
Falla critica nel sistema di stampa di Windows, e la patch ancora non c'è
Un assaggio del nuovo Office, riprogettato per Windows 11
Giugno 2021
Windows 11, il mio PC riuscirà a eseguirlo?
Windows 11, non abbiate fretta di installarlo
Un blackout informatico molto, molto canadese
Windows 11 sarà più veloce di Windows 10
Windows 11, l'update da Windows 7 e 8 sarà gratis
Windows 11, l'ISO del sistema finisce in Rete
Windows 11, i primi screenshot sfuggono in Rete
Tutti gli indizi che puntano a Windows 11
Tutti gli Arretrati
Accadde oggi - 25 luglio


web metrics