L'etica delle IA e l'umano nel loop

Questo è un articolo su più pagine: ti invitiamo a leggere la pagina iniziale
Rubik contro Terminator

La prima obiezione: l'etica delle IA. L'etica è quello che più ci distingue positivamente come umani dagli altre manifestazioni della natura. È un argomento di cui si fa un gran parlare, ma che tende a scomparire non appena ci si avvicina ad altre problematiche, come il guadagno o gli armamenti. In presenza di queste ultime l'etica viene rapidamente sostituita dalla propaganda e dalle consulenze per la gestione della reputazione, al fine di fare solamente qualsiasi cosa che venga considerata necessaria, solo da parte di chiunque. In breve, Cassandra è certa che nessuna dialettica basata sull'etica potrà mai servire per influenzare, anche solo minimamente, la produzione e l'impiego di armi autonome letali.

La seconda obiezione: l'umano nel loop. L'informazione e l'automazione sono tendenze incontrastate e incontrastabili; le spesso trascurate prima e seconda leggi di Zuboff le riassumono mirabilmente. Guardatevi intorno: non è minimamente realistico pensare che queste naturali tendenze, almeno negli attuali sistemi sociali, possano essere efficacemente contrastate, indipendentemente dalla bontà della motivazione. Ora pensate al mondo militare e alla guerra, alla continua corsa dei militari all'arma più potente e più economica, volta a distruggere il nemico e a minimizzare le proprie perdite; questi sono da sempre gli unici valori fondamentali per i militari.

Sono principi così fondamentali da non aver nemmeno bisogno di essere enunciati, il più delle volte. Forse proprio per questo tendiamo a dimenticarcene. A nulla vale il fatto che le tecnologie di IA in generale e gli LLM in particolare siano caratterizzati da ineliminabili tassi di errore, così alti da essere spesso inaccettabili nel mondo normale, malgrado tutta la propaganda e le spinte economiche possibili. Ma in campo militare un limite agli errori non è mai stato enunciato; anzi, non esiste proprio; esistono invece da sempre concetti come vittime collaterali e fuoco amico, che verranno ovviamente utilizzati anche per giustificare gli svarioni delle armi autonome.

Articoli raccomandati:

Il Regno Unito testa un algoritmo per prevedere gli omicidi

A proposito di quell'intelligenza artificiale di OpenAI troppo pericolosa da...

Intelligenze artificiali per creare cartoni animati o isolare voci

Antibufala: giocoliere risolve tre cubi di Rubik al volo

Non è difficile profetizzare che questi stessi concetti troveranno una applicazione immediata, pratica e diretta per giustificare qualsiasi allucinazione, o per meglio dire errore, che anche il più pazzerello degli LLM potrebbe compiere sul campo di battaglia. E questo rende gli LLM totalmente accettabili per poter finalmente realizzare armi autonome di ogni tipo, sostituendo in maniera semplice, rapida ed economica l'elemento umano in qualsiasi sistema d'arma. Non sta per succedere: è già successo.

Spunti di approfondimento:

Un doodle per i 40 anni del cubo di Rubik

Il robot che risolve il cubo di Rubik in 3 secondi

Risolve bendato il cubo di Rubik in 28 secondi

Il robottino che risolve il cubo di Rubik in 12 secondi