Salta il menu

Newsletter Feed RSS Facebook Forum Contatti Accadde oggi Cerca

Allucinazioni IA: essere o sembrare

Cassandra Crossing/ Quanto è sfaccettato il problema delle capacità delle false IA e delle loro ''allucinazioni'' quando viene discusso nei salotti? E nel marketing? E nella filosofia?

Articolo multipagina1 / 2
- 1. Allucinazioni IA: essere o sembrare
- 2. Distinguere l'essere dal sembrare

[ZEUS News - www.zeusnews.it - 23-10-2023]

Cassandra, i 24 inscalfibili lettori lo sanno bene, ha scritto in maniera... beh, diciamo in maniera molto critica sui problemi legati all'intelligenza artificiale (che ha battezzato, non a caso, "falsa Intelligenza Artificiale"). È stata particolarmente attenta al linguaggio che viene usato oggi per parlare delle false Intelligenze Artificiali, sottolineandone l'uso distorto quando non volutamente ingannevole.

È necessario fare questa operazione anche per il termine usato quando una falsa Intelligenza Artificiale commette errori così marchiani da rivelarne la sostanziale inutilità come "oracolo". Il termine è "allucinazioni", che è perfetto per sostenere la campagna di marketing con cui si tenta di vendere le attuali false Intelligenze Artificiali come strumenti per risolvere problemi.

È appena il caso di ricordare che si tratta di sistemi generativi pre-addestrati su grandi quantità di dati, e in particolare di LLM, cioè di grandi modelli linguistici. Si tratta di software che, per la loro struttura interna, decompongono l'informazione con cui sono addestrati in "coefficienti statistici" complessi, su cui qui non è possibile addentrarsi.

Una tale architettura però rende tali sistemi capaci unicamente di completare domande, fornite come input, anzi come "prompt" (altro termine coniato ad arte), calcolando risposte concepite come "prosecuzione" della domanda, e generate semplicemente per essere credibili, ma senza nessuna possibilità di fornire risposte esatte.

Proposte di lettura:

IA: ChatGPT, i plugin e la responsabilità

AI: L'ultimo Primo Maggio

Vivere con l'IA: la lettura

Vivere con l’IA: la scrittura

Questa verifica è alla portata di qualunque utente curioso che fornisca qualche prompt a ChatGPT.

Proposte di lettura:

L'IA come proprietà emergente?

Intelligenza Artificiale: GPT-4, orgasmi e Pappagalli Stocastici

Intelligenza Artificiale: il potere

Intelligenza Artificiale: il sortilegio

Ti invitiamo a leggere la pagina successiva di questo articolo:
Distinguere l'essere dal sembrare

Spunti di approfondimento:

L'intelligenza artificiale oltre i suoi limiti

Neo Luddismo

La Biblioteca di Babele della IA

IA: ragionare usando i dati

Articolo multipagina
- 1. Allucinazioni IA: essere o sembrare
- 2. Distinguere l'essere dal sembrare

Se questo articolo ti è piaciuto e vuoi rimanere sempre informato con Zeus News ti consigliamo di iscriverti alla Newsletter gratuita. Inoltre puoi consigliare l'articolo utilizzando uno dei pulsanti qui sotto, inserire un commento (anche anonimo) o segnalare un refuso.
© RIPRODUZIONE RISERVATA

Marco Calamari

Scrivere a Cassandra - Twitter - Mastodon
Videorubrica "Quattro chiacchiere con Cassandra"
Lo Slog (Static Blog) di Cassandra
L'archivio di Cassandra: scuola, formazione e pensiero

Approfondimenti

L'intelligenza artificiale oltre i suoi limiti
Neo Luddismo
La Biblioteca di Babele della IA
IA: ragionare usando i dati

Commenti all'articolo (ultimi 5 di 7)

Homer S.

Contestare agli altri le proprie colpe: che c'è di più politico di questo? :vittoria: Leggi tutto
24-1-2024 14:52

zeross

Poi noi essere umani come possiamo distinguere l'essere ( esempio il truffatore) dal sembrare ( una brava persona) poiché la difficoltà di percezione, è un fatto noto. Pensiamo ad un affabulatore come gigino di Maio, che per anni si e vantato essere a capo degli onesti e poi si è rivelato peggio di chi voleva aprire come una scatoletta.... Leggi tutto
24-1-2024 14:49

{albet}

Concordo pienamente con zeross e anche con swensuez, anche nei termini usati.
19-1-2024 09:48

zeross

Il problema non sono gli algoritmi che determinano la qualità delle risposte delle intelligenze artificiali, ma gli esseri umani manipolatori della realtà che si celano dietro ad esse. Fino a che si punta il dito contro gli algoritmi delle intelligenze artificiali, rimarrà sempre sfocato sul fondo il burattinaio umano che si trova dietro.
24-10-2023 13:48

Leggi gli altri 2 commenti nel forum Scienze e nuove tecnologie
Inserisci un commento - anche se NON sei registrato

La liberta' di parola e' un diritto inviolabile, ma nei forum di Zeus News vige un regolamento che impone delle restrizioni e che l'utente e' tenuto a rispettare. I moderatori si riservano il diritto di cancellare o modificare i commenti inseriti dagli utenti, senza dover fornire giustificazione alcuna. Gli utenti non registrati al forum inoltre sono sottoposti a moderazione preventiva. La responsabilita' dei commenti ricade esclusivamente sui rispettivi autori. I principali consigli: rimani sempre in argomento; evita commenti offensivi, volgari, violenti o che inneggiano all'illegalita'; non inserire dati personali, link inutili o spam in generale.


News(3 commenti) Netflix, illegittimi gli aumenti dal 2017 al 2024. Sentenza immediatamente esecutiva	News(6 commenti) Oracle licenzia 30.000 dipendenti via email

News(4 commenti)

Claude Code, trapelato l'intero sorgente

News(8 commenti)

Luce e gas, addio ai contratti "a sorpresa"

News(4 commenti)

Wikipedia chiude all'AI: vietata la creazione di articoli con LLM

News(2 commenti)

Il backup invisibile che salvava Windows 95: storia del trucco che evitava crash e incompatibilità

E' VIETATA la riproduzione dei testi e delle immagini senza l'espressa autorizzazione scritta di Zeus News. Tutti i marchi e i marchi registrati citati sono di proprietà delle rispettive società. Informativa sulla privacy. I tuoi suggerimenti sono di vitale importanza per Zeus News. Contatta la redazione e contribuisci anche tu a migliorare il sito: pubblicheremo sui forum le lettere piu' interessanti.

Sondaggio

Quali sono i rischi maggiori del cloud computing?

	Distributed Denial of Service (DDoS): cresce l'impatto dei tempi di indisponibilità di un sito web, che possono costare perdite di milioni di euro in termini di introiti, produttività e immagine aziendale.
	Frode: perpetrata da malintenzionati con l'obiettivo di trafugare i dati di un sito e creare storefront illegittimi, o da truffatori che intendono impadronirsi di numeri di carte di credito, la frode tende a colpire - prima o poi - tutte le aziende.
	Violazione dei dati: le aziende tendono a consolidare i dati nelle applicazioni web (dati delle carte di credito ma anche di intellectual property, ad esempio); gli attacchi informatici bersagliano i siti e le infrastrutture che le supportano.
	Malware del desktop: un malintenzionato riesce ad accedere a un desktop aziendale, approfittandone per attaccare i fornitori o le risorse interne o per visualizzare dati protetti. Come il trojan Zeus, che prende il controllo del browser dell'utente.
	Tecnologie dirompenti: pur non essendo minacce nel senso stretto del termine, tecnologie come le applicazioni mobile e il trend del BYOD (bring-your-own-device) stanno cambiando le regole a cui le aziende si sono attenute sino a oggi.