Foto di Brett Jordan.

Ci sono situazioni in cui la semplice correzione di un problema a posteriori non è ammissibile; bisogna imporsi e imporre di buttare via tutto e ricominciare, cosa difficile e costosa, sia in termini reputazionali che economici. Si tratta di ammettere errori di base, compiuti magari sull'onda dell'entusiasmo, e procedere in un modo diverso, che garantisca un output privo di errori più di quello che può fare un LLM, un "generatore di stronzate" (termine tecnico).

Questa esternazione di Cassandra vuole rispondere alle periodiche non-notizie che guadagnano gli immeritati onori della cronaca, quando viene riferito per esempio che un LLM ha cancellato file o database magari condendo la notizia con il pettegolezzo che lo stesso generatore di stronzate ha definito la sua azione "errore in buona fede". Sono notizie che contribuiscono al mantenimento del mito degli LLM, e fanno parte del problema dell'antropomorfizzazione delle IA. Anche solo leggerle e parlarne, consumando così il vostro tempo, significa giocare nel loro campo, essere parte del problema insomma. Ma oggi affrontiamo un'altra parte del problema.

Se io - dirigente, sistemista, architetto di applicazioni - costruisco o faccio costruire un'applicazione o un processo industriale in cui inserisco un LLM, posso poi limitarmi a cercare di rimediare agli errori che questo causa? Non sono moralmente ed eticamente obbligato a valutare l'eliminazione alla radice del problema, per esempio tramite la sostituzione del LLM con qualcosa che sia algoritmico, quindi ripetibile e auditabile? E magari, avendone l'autorità, vietare l'uso di LLM e altri sistemi non deterministici in flussi di lavoro critici? La realtà è che, almeno in ambito industriale, solo una ben motivata e dimostrata convenienza economica può avviare un simile processo; convenienza economica che deve tener conto di modi diversi, e purtroppo molto diffusi, di gestire gli errori, stipulando e pagando polizze assicurative invece di evitarli.

C'è solo un campo in cui l'utilizzo degli LLM è a prova di errore: quello delle LAWS, le armi autonome letali. Infatti in quest'ambito l'esattezza assoluta non è reputata necessaria, grazie all'elaborazione di concetti quali "danni collaterali" oppure "fuoco amico", che precedono di gran lunga le applicazioni dell'informatica al mondo militare. Insomma, l'unico impiego in cui l'utilizzo degli LLM pare innocuo, rispetto alla situazione preesistente, sembra solo quello di ammazzare la gente. Che la morale di questa esternazione consista in questo?

Spunti di approfondimento:

Non è vero che l'AI ''si è ribellata'', nulla '...

Agenti autonomi usati per l'attacco, risposta affidata all'intelligenza ...

L'etica delle IA e l'umano nel loop

Cappuccetto Scarlatto e la stampante cattiva

Per approfondire:

GPT-5.6 Sol cancella file e database senza permesso

Le GPU virtuali di Nvidia e i datacenter di carta

Le promesse dei tech-bro in un bagno di realtà

Le false IA sono generatori... ma di cosa?