Sibille e Mentecatti Artificiali

Cassandra Crossing/ Intelligenze Artificiali: fabbriche di informazioni false (2)



[ZEUS News - www.zeusnews.it - 06-05-2023]

sibilla

Questo è un articolo su più pagine: ti invitiamo a leggere la pagina iniziale
Intelligenze Artificiali, fabbriche di informazioni false

E veniamo finalmente all'attualità. Un software prodotto dall'azienda OpenAI, chiamato GPT-3 (Generative pre-Trained Transformer)  — Trasformatore generativo pre-allenato, dopo essere stato nutrito con una quantità enorme di dati si è rivelato particolarmente efficace nel generare risposte credibili, ed è stato messo a disposizione del pubblico tramite un'interfaccia colloquiale chiamata ChatGPT.

ChatGPT ha avuto un'enorme risonanza, e moltissime persone, dopo averla provata, hanno cominciato a scrivere cose indicibili, minchiate galattiche, descrizioni tanto fantasiose quanto errate su questo software, sui suoi successori e sulle tecnologia alla loro base, descrivendola come il futuro paradiso dell'umanità, come la soluzione a tutti i problemi. Come oracoli di verità.

Se questo articolo di Cassandra fosse un romanzo giallo, a questo punto il lettore attento potrebbe già individuare l'assassino. Ma continuiamo nella storia, e arriviamo al finale. Cassandra, come profetessa, ha frequentato gli oracoli, e ne ha sperimentato tutti i limiti.

Un famoso responso fornito da un oracolo, la Sibilla romana, a un soldato in procinto di partire per la guerra, che voleva sapere se ne sarebbe tornato, fu "Ibis, redibis non morieris in bello".

Per chi non avesse avuto frequentazioni con la lingua latina, la sequenza di sei parole, mancando di una virgola, poteva significare sia quello che il soldato voleva sentirsi dire "Partirai, tornerai, non morirai in guerra", sia il suo opposto "Partirai, non tornerai, morirai in guerra". Non conteneva nessuna informazione. Era una "non-risposta". Un risposta priva di significato e di informazione, ma a cui il soldato fornì il significato che desiderava, cioè che sarebbe sopravvissuto, e non quello che sarebbe morto in guerra. Ma qualcuno potrebbe pensare che l'oracolo conoscesse davvero il futuro, e si divertisse malignamente a renderlo comunque oscuro ai poveri mortali.

Così certamente non è per ChatGPT, perché questo software non solo non conosce il futuro, ma nemmeno conosce la risposta a nessuna domanda, nemmeno se una foto sia di un gatto oppure no. ChatGPT e tutti i suoi successori dello stesso tipo non conoscono, non conoscono per niente, non conoscono assolutamente, non conoscono neanche lontanamente la risposta a qualsiasi domanda; non conoscono assolutamente nulla.

La conoscenza con cui vengono "nutriti" viene "digerita" e svanisce, lasciando solo un credibile "Mentecatto Artificiale" privo di qualsiasi Intelligenza o Cultura. ChatGPT e tutti i suoi successori sono fatti solo e unicamente per generare risposte "credibili" a domande poste in linguaggio naturale. Risposte credibili, non risposte vere. 

Questo concetto deve essere recitato come un mantra, ripetuto fino allo sfinimento, pubblicizzato in ogni occasione: ChatGPT e tutti i suoi successori non hanno nessuna conoscenza sulla verità o falsità di una domanda, non hanno nessuna cultura, pur avendone digerito quantità enormi. Sono un vicolo cieco, utilizzabile solo come arma di propaganda di massa. E lo stanno facendo! Sono solo in grado di darvi risposte credibili, in cui voi individuerete il significato che volete o potete dargli.

E qui sta il pericolo: questi oggetti vengono propagandati come risponditori di domande, non come affabulatori o generatori di prosa fantasiosa. E la loro attuale linea di sviluppo non è quella di renderli capaci di risposte esatte, cosa che non sarà mai possibile, ma solo incapaci di dare risposte così errate da essere evidenti o ridicole, risposte che siano espresse in termini razzisti, sessisti, in violazione di qualsiasi possibile concetto "politically correct".

Non c'è quindi nessuna possibilità, se non per puro caso, di avere risposte informate e corrette da modelli linguistici, cioè da software come GPT-3, ChatGPT, GPT-4 e i loro fratelli e successori. Non sono fatti per questo. Non lo sanno e non lo possono fare per progetto. Non conoscono, e non sanno calcolare, categorie come "verità" o "esattezza". È assolutamente impossibile che forniscano risposte esatte e affidabili, per quanti "miglioramenti" e filtri vi vengano aggiunti.

Nel frattempo la maggioranza del pubblico, indotta in errore da un'attività di propaganda commerciale che non si è mai vista nel mondo delle tecnologie informatiche, è convinta di interagire con un software che può fornire vere risposte, mentre in realtà è in grado di fornire solo sequenze di parole ben formate, ma assolutamente vuote di qualsiasi contenuto affidabile. Parole messe a caso ma con grande proprietà di linguaggio.

Potrei dire che possono produrre solo discorsi da politicanti e venditori di auto usate, ma fate conto che non l'abbia detto. Speriamo che questa ennesima ripetizione, spero ben argomentata ripetizione, serva a qualcosa.

Se vi affidate a ChatGPT, non tornerete mai dalla guerra.

Se questo articolo ti è piaciuto e vuoi rimanere sempre informato con Zeus News ti consigliamo di iscriverti alla Newsletter gratuita. Inoltre puoi consigliare l'articolo utilizzando uno dei pulsanti qui sotto, inserire un commento (anche anonimo) o segnalare un refuso.
© RIPRODUZIONE RISERVATA

Approfondimenti
Robot assassini crescono
Spid creepshow, la sospensione
Analfabetismo numerico e Covid-19
Il virus del programmatore
Scontanti e scontenti
Cassandra Crossing/ Congiuntivo, virgola e bit
Cassandra crossing/ Overload informativo, overload sociale
Riflessioni di Cassandra/ Scrittore, giornalista, blogger o influencer?
Cassandra Crossing/ Il quarto Cavaliere
Cassandra Crossing/ Storie di aerei caduti e del loro software
Cassandra Crossing/ Extended Play
Cassandra Crossing/ L'insostenibile inaffidabilità delle infrastrutture
Spiccioli di Cassandra/ La Tv nuova
Cassandra Crossing/ Bandersnatch
Lampi di Cassandra / Una cartolina da Saturno

Commenti all'articolo (ultimi 5 di 53)

{j0e}
"Cogito Ergo Sum" (era l'intro del messaggio di ieri, ma è sparita :| )
31-5-2023 12:34

{j0e}
Quale espressione migliore per definire il nostro essere intelligenti? Un giorno, è bastata la mal i(n)spirazione, o meglio l'inalazione di sostanze strane, per elevare un semplice cellulare multifunzione, al rango di "smartphone". Dove abbia sostanza, la parte "smart", non mi è dato a capire. ... Leggi tutto
30-5-2023 21:47

{j0e}
Ho letto tutti i commenti fin qui e mi esprimo complessivamente come segue: 1) l'utilizzo della parola "Intelligenza", nella sigla "IA", è evidentemente pretenzioso, una mossa da venditori di fumo, giacché il suo significato include delle proprietà di cui questi algoritmi sono privi; alcuni... Leggi tutto
30-5-2023 19:26

Non è affatto un assurdo, ma la logica evoluzione della creazione delle fake news, sempre più comprensibili, chiare, esaustive, e finalmente anche ben confezionate. Insomma esattamente ciò che pretende il pubblico, che per problemi complessi (pandemia) ha sempre amato scoprire soluzioni semplici (fate i gargarismi con la candeggina).... Leggi tutto
11-5-2023 12:39

Ricorda che il gioco degli scacchi è basato su delle regole che potremmo definire meccaniche, i pezzi ed il terreno di gioco sono sempre gli stessi; le strategie non possono essere infinite ed un calcolatore ha dalla sua parte la velocità di elaborazione per analizzare i possibili risultati di una mossa. L'intelligenza non è del... Leggi tutto
8-5-2023 10:23

La liberta' di parola e' un diritto inviolabile, ma nei forum di Zeus News vige un regolamento che impone delle restrizioni e che l'utente e' tenuto a rispettare. I moderatori si riservano il diritto di cancellare o modificare i commenti inseriti dagli utenti, senza dover fornire giustificazione alcuna. Gli utenti non registrati al forum inoltre sono sottoposti a moderazione preventiva. La responsabilita' dei commenti ricade esclusivamente sui rispettivi autori. I principali consigli: rimani sempre in argomento; evita commenti offensivi, volgari, violenti o che inneggiano all'illegalita'; non inserire dati personali, link inutili o spam in generale.
E' VIETATA la riproduzione dei testi e delle immagini senza l'espressa autorizzazione scritta di Zeus News. Tutti i marchi e i marchi registrati citati sono di proprietà delle rispettive società. Informativa sulla privacy. I tuoi suggerimenti sono di vitale importanza per Zeus News. Contatta la redazione e contribuisci anche tu a migliorare il sito: pubblicheremo sui forum le lettere piu' interessanti.
Sondaggio
L'aggravarsi del tasso di inquinamento atmosferico fa assumere alle amministrazioni comunali la decisione di bloccare la circolazione delle auto. Cosa ne pensi?
Era ora: si tratta di una misura necessaria e urgente.
I blocchi del traffico sono inutili e peggiorano la vita delle persone.
Sono d'accordo, ma i provvedimenti dovrebbero essere più incisivi (o addirittura permanenti).
Sarei d'accordo solo se prima venissero potenziati i trasporti pubblici.
Non so.

Mostra i risultati (1634 voti)
Dicembre 2024
Windows 11 perde utenti nonostante gli sforzi di Microsoft
Novembre 2024
Huawei, l'addio ad Android è completo
Contanti e trionfanti
WhatsApp, la trascrizione dei messaggi vocali è realtà
La vecchietta digitale che fa perdere tempo ai truffatori telefonici
La punteggiatura è morta: l'ha uccisa l'iPhone
Elon Musk e l'attacco ai giudici italiani
D-Link, falla in migliaia di NAS non sarà mai corretta
L'app per aggiornare a Windows 11 anche i PC non supportati
Lo script per aggirare i requisiti hardware di Windows 11
Windows, ora si può accede allo smartphone senza il cavo USB
Ottobre 2024
San Francisco, 200 milioni per liberare la metropolitana dai floppy disk
WhatsApp semplifica i contatti e si prepara a supportare i nomi utente
Windows 11 24H2, bug a non finire
Windows 11 24H2 occupa un sacco di spazio su disco
Tutti gli Arretrati
Accadde oggi - 4 dicembre


web metrics