Questo è un articolo su più pagine: ti invitiamo a leggere la pagina iniziale
Il collasso delle IA

Torniamo quindi al tema di oggi, il collasso delle false intelligenze artificiali. Alcuni fenomeni presentatisi durante l'attuale corsa alla creazione di modelli per IA (fenomeni che definire strani è poco) hanno portato a delle attività di ricerca e dei risultati decisamente interessanti.

In certi casi, per esempio, continuare ad addestrare un modello di IA con sempre più dati provoca, in maniera controintuitiva, un peggioramento delle sue prestazioni. In termini semplici, il modello tende a dare risposte stereotipate, per esempio sempre più simili alla domanda o sempre più simili tra loro. Il modello collassa e diventa inutilizzabile.

Ora tenetevi forte, perché è stato dimostrato che questo avviene quando, volutamente o per sbaglio, il modello viene addestrato con dati sintetici. Dare in pasto dati sintetici a un modello di IA lo fa "disimparare". «Garbage in, garbage out» direbbero gli anglofoni. Il conte Mascetti sintetizzerebbe meglio dicendo "Se ascolti solo supercazzole, dirai solo supercazzole".

Sullo stesso tema:

Archive.org in aiuto

Tre rimedi per i link spezzati

I link e la salute dell'Infosfera

L'Internet delle brutte Cose

Certamente qualcuno avrà pensato: «Che problema c'è? Non date in pasto dati sintetici alle IA e tutto si sistemerà». Giusto, ma difficile a farsi. I dati sintetici sono simili ai dati reali: non è facile riconoscerli; e spuntano fuori dove meno te l'aspetteresti.

Tenetevi di nuovo forte. Tutti i prodotti delle false IA, inclusi quei falsi articoli, news e annunci, ma anche racconti, "romanzi" e pubblicazioni accademiche, sono in tutto o in parte dati sintetici, e producono esattamente gli stessi problemi quando usati per addestrare una modello linguistico.

Una possibile e interessante conseguenza di questo fenomeno è che l'inquinamento della cultura e dell'infosfera, causato dall'inserimento dei prodotti delle false intelligenze artificiali, potrebbe essere per loro stesse fatale, quando fossero nutrite con essi.

Spunti di approfondimento:

La cultura, l'Infosfera e il cibo per le IA

IA o neuroni?

Vivere con l'IA: la lettura

Le parole al vento, i bit per l'eternità

È possibile sperare che gli esseri umani siano più resistenti a questo tipo di inquinamento rispetto alle false intelligenze artificiali. Queste comunque non potranno più essere addestrate semplicemente nutrendole in maniera indiscriminata con tutto quello che viene pubblicato sulla Rete.

Qualcuno dei 24 increduli lettori potrebbe ora pensare: «Ma allora basterà stringere i denti e aspettare, e prima o poi le IA si estingueranno da sole». Magari! No, purtroppo; chi può dire come si comporteranno i nuovi tipi di IA che verranno scoperti in futuro? Però almeno il modello di sviluppo attuale delle false intelligenze artificiali, in cui gli OGAFAM prendono gratis tutta la cultura del mondo e la rivendono poi sotto forma di un loro prodotto esclusivo (le false intelligenze artificiali, appunto) non potrà durare.

In attesa quindi che qualcosa di nuovo emerga nel campo dell'IA, magari fra 50 anni, gli OGAFAM dovranno cominciare a pagare per quello che usano, costretti a discriminare oculatamente per scegliere dati utili e utilizzabili, e non dati sintetici o prodotti dalla false IA e quindi "velenosi" per le stesse. Come, purtroppo, sono tossici per noi e per la cultura tutta.

Per approfondire:

Vivere con l’IA: la scrittura

Intelligenze Artificiali, fabbriche di informazioni false

Intelligenza Artificiale: il potere

La Biblioteca di Babele della IA

Articoli suggeriti:

Se il telegiornale spaccia un videogioco per i bombardamenti su Kiev

Salvini, l'Infosfera e l'Intelligenza Artificiale

Siate i follower di voi stessi

Altro che Immuni: il Bluetooth va tenuto spento!

Ti invitiamo a leggere la pagina successiva di questo articolo:
IA: il collasso, reloaded

Consigliamo la lettura di:

Quanto sono intimi i dettagli raccolti da Siri? Molto

Ricostruire le identità digitali anonimizzate? È un gioco da ragazzi

La Modalità Incognito non è poi così sicura

Il vibratore ''smart'' che ti spia