Se oggi siamo in questa situazione è tutta colpa di Joseph Weizenbaum, noto eretico dell'informatica. Anzi, è colpa di Joseph Weizenbaum e della sua segretaria. Ma andiamo con ordine.

Nell'ambito dell'intelligenza artificiale, una delle pietre miliari più conosciute è stato ELIZA, un programma informatico sviluppato appunto da Weizenbaum nel 1966, che ha rivoluzionato la nostra comprensione delle interazioni tra l'uomo e la macchina. Eliza, sebbene rudimentale rispetto agli standard odierni, ha gettato le basi per molte delle tecnologie di chatbot e assistenti virtuali che utilizziamo oggi. Weizenbaun realizzò la versione originale di Eliza utilizzando SLIP, un linguaggio da lui stesso creato; il programma, lungo poche centinaia di linee, fu poi successivamente riscritto e modificato varie volte in numerosi altri linguaggi.

Per comunicare con Eliza, all'epoca, era necessario utilizzare una tastiera e uno schermo. La segretaria di Weizenbaum fece ovviamente da cavia per la nuova invenzione: questo fu uno dei momenti più curiosi e significativi nella storia di Eliza. Infatti un giorno, arrivando in ufficio, Weizenbaum scoprì la sua segretaria intenta a conversare con il programma, seriamente e di sua iniziativa; fu addirittura invitato a "lasciarle sole", perché stavano parlando di "questioni intime e personali". Questo distrasse Weizenbaum dal suo obiettivo originale di simulare una conversazione e lo portò a riflettere invece sulla natura dell'interazione umano-computer; fu colpito infatti dall'umanità che veniva attribuita al programma; proprio questo lo spinse successivamente a occuparsi degli aspetti filosofici legati alla creazione dell'intelligenza artificiale.

Già, l'intelligenza artificiale, disciplina antica con un nome eccezionalmente efficace e pericoloso. Il termine fu creato nel 1955 da John McCarthy - premio Turing, inventore del LisP. McCarthy morì nel 2011, per sua fortuna prima della bolla odierna, che forse avrebbe correttamente definito "follia". Quando cerca di visualizzare l'IA, a Cassandra viene in mente il volto pensoso di John Wood in Wargames, dove interpreta il professor Steven Falken: «Salve, professor Falken, Strano gioco, l'unica mossa vincente è non giocare. Che ne dice di una bella partita a scacchi?». Ricordatevi di questa frase, quando avrete finito questo articolo. Sono passati 70 anni, oltre 40 da Wargames, e tre anni or sono l'IA ha cominciato a funzionare. Come? Come una nuova e migliore Eliza!

Sullo stesso tema:

IA, il pericolo dell'antropomorfizzazione

L'impercettibile pericolosità dei chatbot

Robot, IA e Paura

L'IA come proprietà emergente?

Non è esatto dire che l'IA abbia cominciato a funzionare solo tre anni fa. In 70 anni di storia sono stati sviluppati i motori di inferenza, le reti neurali, le tecniche di apprendimento profondo: tutte cose che nei loro ambiti funzionano benissimo. Se non li avete mai sentiti nominare, ricorderete certo le notizie che l'IA referta le TAC meglio di un radiologo e che ha battuto i campioni mondiali di scacchi e Go (dama cinese). La dama europea ancora resiste. Comunque, se vi sembra poco... Tre anni fa una tecnologia già nota da tempo, gli LLM (Large Language Models — Grandi modelli di Linguaggio) ha cominciato a funzionare. Perché? Per semplici motivi di scala, cioè l'utilizzo di server più potenti per eseguirli e di più informazioni con cui allenarli.

La speculazione finanziaria delle dotcom in cerca di nuove opportunità di far soldi ci si è buttata a pesce. Improvvisamente ChatGPT e i suoi fratelli sono diventati disponibili a chiunque gratuitamente: hanno cominciato ad affascinare tutti esattamente come Eliza aveva fatto con la segretaria di Weizenbaum. Ma, come Eliza, un LLM non sa niente, non comprende niente, non può rispondere a nessuna domanda e nemmeno rispondere sempre nello stesso modo. Gli LLM sanno solo mettere in fila - molto bene - le parole. Sono fantastici per manipolare il linguaggio scritto, tradurre da una lingua all'altra, cambiare lo stile, fare riassunti. Ma per il resto, se gli si pongono domande sanno solo fare come Eliza; sono a tutti gli effetti degli affabulatori di supercazzole.

Gli LLM funzionano su basi simil-statistiche, preparando un database di relazioni fra token (diciamo parole), utilizzando grandi quantità di testo. Successivamente consultano questo database quando gli viene proposta una parola o una frase, restituendo quella che è più probabile come parola successiva con un calcolo su base vettoriale. Giusto per esemplificare, è come se l'LLM avesse trasformato tutte le parole del mondo nell'erba di un prato, con i fili d'erba che puntano tutti in direzioni leggermente diverse. Convertendo anche l'ultima parola della domanda in un filo d'erba, la prossima parola è il filo d'erba che nel prato punta nella stessa direzione. Ripetiamo. Gli LLM sono sistemi a base statistica, non applicano algoritmi. Sono solo bravi a comporre frasi credibili e appropriate. Sono fatti così. Non possono essere consultati come se fossero oracoli.

Spunti di approfondimento:

Intelligenza Artificiale: GPT-4, orgasmi e Pappagalli Stocastici

Il demone nel pentacolo

Intelligenza Artificiale: il potere

Intelligenza Artificiale: il sortilegio

Oracolo non è una parola qualunque nell'IA, campo dove invece possiede un significato molto preciso. Un oracolo è un programma che conosce delle informazioni e che è in grado di fornire risposte a domande pertinenti il suo settore.  Non è come l'Oracolo di Delfi, che a domande rispondeva invece con enigmi! Ma un LLM certamente non è un oracolo. Gli LLM sono inguaribilmente affetti da mancanza di determinismo; inoltre man mano che l'output che gli viene richiesto si allunga, gli LLM inevitabilmente deviano da quello che ci si aspetterebbe. Usarli tranquillamente in questo modo suicida è conseguenza del vivere in una bolla in cui gli LLM sono ossessivamente descritti e venduti proprio come oracoli.

Consigliamo la lettura di:

Da Turing a Gpt-3, la lunga storia dell’Intelligenza artificiale

Griefbot: fantasmi digitali

Antibufala: ''robot di Facebook'' che parlano fra loro una lingu...

No, un ''supercomputer'' non ha superato il Test di Turing

Ti invitiamo a leggere la pagina successiva di questo articolo:
Le IA vendute come oracoli sono solo fuffa: ecco perché