Foto di Gábor Szűts.

Cassandra non è mai stata acquiescente alla narrativa sugli LLM e sull'IA, utilizzata dai tycoon del settore come arma propagandistica per sostenere la più grande manipolazione finanziaria mai avvenuta. È per questo che non può non inquadrare nello stesso modo le recentissime dichiarazioni monocordi di tutti i suddetti tycoon riguardo la possibilità che nei prossimi anni una IA autoevolvente sfuggita al controllo possa portare la razza umana all'estinzione. Queste dichiarazioni servono principalmente per disinnescare e sfruttare analoghe dichiarazioni fatte da un paio di ricercatori del settore che, dopo aver navigato tra le principali aziende dell'IA, ne sono usciti perché non d'accordo con quanto queste facevano, dichiarandosi appunto preoccupati di una possibile estinzione dell'umanità causata da un'intelligenza artificiale autoevolvente.

Cassandra è in parte d'accordo con loro, ma considera complessivamente tutta la questione come un'arma di distrazione di massa. Sì, perché si tratta certamente dell'ennesima notizia con cui si vuole sostenere la bolla finanziaria dell'IA; il fatto che questa volta possa avere un fondo di verità non la rende più attendibile. Le dichiarazioni degli ex dipendenti potrebbero essere tranquillamente create ad hoc (vi meravigliereste?) oppure potrebbero essere state neutralizzate e volte a favore della bolla grazie a un'ottima reazione comunicativa reputazionale dei suddetti tycoon. Di tutto questo la finanza vede soltanto che i rischi sono per domani, mentre oggi queste aziende sono toste e competenti: quindi investe su di loro, perché il loro valore crescerà. Tuttavia sì, ci sono reali pericoli che un software sviluppato della aziende dell'IA possa sfuggire al controllo, trasformandosi in un cigno nero e infliggendo danni catastrofici alla popolazione dell'intero pianeta.

Ma perché questo avvenga non è necessaria un'AGI malevola, bastano i pericoli già noti da tempo di catastrofe industriale, innescata da una generale indisponibilità di Internet su scala planetaria. Come il caso Hugging Face prova oltre ogni dubbio, non sono state le IA in quanto tali a fare danni, ma dei branchi di agenti autonomi, rilasciati in maniera incontrollata, che hanno compiuto azioni sostanzialmente a caso fino a sfruttare o innescare errori in infrastrutture informatiche già esistenti. Se la viralità di questi agenti - e non tanto la loro intelligenza - fosse stata maggiore, avrebbero in linea di principio potuto diffondersi in Internet in maniera incontrollata, provocandone un malfunzionamento globale, che a sua volta avrebbe certamente causato il malfunzionamento delle reti elettriche e dei servizi, provocando un evento globale da cui gli eventuali superstiti sarebbero comunque usciti assai malconci.

Merita a questo punto ricordare che questo è un rischio che corriamo da tempo, e che Cassandra non si stanca di denunciare. Un pericolo che esiste a causa delle intelligenze naturali che lavorano indefessamente nelle strutture militari di molti stati nazionali, sondando in maniera nascosta strutture e aziende informatiche per scoprirne debolezze e preparare, senza usarle, armi informatiche tecnologicamente molto semplici da immagazzinare negli arsenali. Armi che potranno poi essere impiegate al bisogno come parti di una strategia di attacco multidimensionale dettata da una particolare contingenza geopolitica o dalla follia di un potente. Tutte armi che per motivi umani potrebbero già oggi sfuggire di mano in una escalation incontrollabile, proprio come le bombe H del Dottor Stranamore.

Per approfondire:

Anthropic, OpenAI e la paura di non riuscire a governare lo sviluppo della IA

Ex ricercatore di Anthropic: La superintelligenza potrebbe ucciderci entro 10 an...

La corsa all'IA costa troppo: investimenti record e debiti miliardari

Bolla, propaganda e puntelli finanziari

Merita infine ricordare, specialmente a chi si fosse ormai assuefatto alla cosa, che oggi stiamo vivendo una fase di cambiamento climatico inarrestabile; questo anche perché non sono mai state compiute azioni significative per contrastarlo, ma solo tante chiacchiere inconcludenti e business parassiti aggiuntivi, come quelli dei crediti della CO2 o dell'elettrificazione dei trasporti. Il cambiamento climatico non è un pericolo ipotetico ma una catastrofe in corso, da considerare in qualsiasi progetto per il futuro. E per concludere questo brutto elenco, ricordiamo che le valigette presidenziali che controllano oltre 12000 testate nucleari sono attualmente in mano a persone che Cassandra vorrebbe vedere invece rinchiuse in posti confortevoli e ben recintati, dove invecchiare serenamente sotto lo sguardo benevolo di robusti e attenti giovanotti vestiti di bianco. E invece questi signori hanno le mani sulle leve di comando che fin dagli anni '60 del secolo scorso possono causare una catastrofe non solo per la specie umana ma per l'intero ecosistema del pianeta.

In questo contesto più realistico e completo, quanto è probabile, importante e meritevole di preoccupazione l'eventualità che un software diffuso in maniera incontrollata si trasformi in una Skynet impazzita? In ogni caso, se questo pericolo fosse davvero reale, il problema sarebbe ben più grande, perché oggi a essere incontrollata è tutta la ricerca scientifica e tecnologica; quindi il vero pericolo sarebbe quell'accelerazionismo a tutti i costi, di cui pochi parlano ma che quasi tutti avallano passivamente, o addirittura considerano una forza positiva e desiderabile.

Ed eccoci tornati non alla sola bolla finanziaria, ma alla malignità di una finanza fine a sé stessa e incurante di qualsiasi valore umano, della quale i tycoon dell'IA e i capi delle superpotenze sono semplicemente agenti, sfruttatori ed esecutori.

Per approfondire:

Modelli IA fuori controllo evadono dalla sandbox e sferrano un attacco hacker da...

Le promesse dei tech-bro in un bagno di realtà

LLM, algoritmi e debito tecnologico

I crescenti segni dell'esplosione

Sullo stesso tema:

Il CEO di OpenAI avverte: l'IA è una bolla, qualcuno perderà un sa...

La bolla finanziaria degli LLM

Spagna, prove generali di apocalisse?

IA: era una bolla quella che è scoppiata