Foto di Julie Ricard.

Il debito tecnologico accumulato durante lo sviluppo del software è sempre stato un argomento assai caro a Cassandra, che gli ha dedicato un articolo che le piace molto e un'intera serie di esternazioni. Ma la vostra profetessa preferita questa volta vuole parlarvi del fenomeno di oggi che preoccupa tutti, anche quelli che in realtà non sono affatto preoccupati, ma addirittura ci marciano per convenienza personale. Un po' di storia, come al solito.

Il mondo dello sviluppo del software ha sempre fatto piuttosto schifo; col passare degli anni il software sviluppato è sempre aumentato di quantità e peggiorato di qualità, facendo sempre più schifo. Negli ultimi decenni, in certi casi fin dagli anni '70, nel software che ci circonda si è accumulato un enorme debito tecnologico, composto da errori di programmazione fatti da umani, e per la maggior parte mai emersi durante l'utilizzo normale del software. Errori che ogni tanto mordevano qualcuno e causavano incidenti e perdite economiche. Tre anni fa, con l'avvento dei grandi modelli linguistici si è scoperto che, sottoponendo a un LLM (Large Language Model) i codici sorgenti dei software, potevano rapidamente e economicamente essere trovati probabili errori di programmazione, che poi un umano poteva facilmente distillare e validare.

Lo hanno fatto i buoni, che hanno cominciato a migliorare leggermente la qualità di alcuni (pochi) software. Lo hanno fatto i cattivi, che hanno identificato nello stesso modo degli errori: hanno distillato quelli che potevano servire per realizzare attacchi e si sono messi all'opera come mai prima. Lo hanno fatto i cybersoldati, senza farsene accorgere da nessuno: hanno utilizzato gli stessi errori, già identificati dai buoni e dai cattivi, per progettare e immagazzinare armi informatiche per un loro futuro uso in una guerra ibrida. Tutto quanto sopra si può riassumere in un'unica frase: stiamo pagando oggi il debito tecnologico accumulato nel software, debito che è stato generato da decenni di programmazione schifosa. E questa ormai è storia.

Abbiamo quindi imparato qualcosa? Gli LLM ci salveranno e azzereranno il debito tecnologico accumulato nel software? Cassandra è certa di no, e vi spiegherà perché.

Articoli raccomandati:

Linus Torvalds: ''Uso l'IA per fare le cose in cui non sono bravo...

Sony brevetta la PlayStation che si ripara da sola col vibe coding

Il debito tecnico come arma cibernetica?

Il vibe coding come paradigma del capitalismo di rapina

Gli LLM hanno nel frattempo generato la moda (vibe coding) di programmare facendo scrivere il codice dai modelli linguistici stessi, con verifiche solo funzionali e poco o nessun controllo umano del codice generato. Quindi hanno abilitato a scrivere (si fa per dire) software una grande quantità di persone che, senza i modelli linguistici, non avrebbero saputo nemmeno da che parte cominciare. Contemporaneamente gli LLM sono stati introdotti anche nel lavoro dei normali programmatori; anche loro oggi programmano con verifiche solo funzionali e poco o nessun controllo del codice generato. Questo ha prodotto grandi guadagni di produttività, guadagni espressi però in numero di linee di codice per programmatore e per settimana, o con metriche simili.

Solo per oggi, lasciamo perdere gli impatti sociali e economici della questione e concentriamoci invece sul debito tecnologico. La qualità dello sviluppo odierno del software continua a essere sempre più schifosa, ma da altri punti di vista. Secondo Cassandra, che nella sua storia proprio digiuna di sviluppo software non è stata, gli errori si sono spostati: da semplici problemi di programmazione come un input memorizzato in una variabile senza un controllo di sanità, sono diventati scelte errate di architettura e di interfaccia tra routine, soprattutto dal punto di vista della sicurezza. Cassandra è pronta a scommettere che questa e altre tipologie di errori non siano facilmente localizzabili neppure con gli LLM, e rappresentino quindi un diverso tipo di debito tecnologico software che ha iniziato ad accumularsi. Debito che sarà sempre più difficile da rimuovere, perché non localizzato in una linea di codice ma contenuto nella struttura stessa del software.

Quando verrà pagato questo nuovo debito, se gli LLM non fossero in grado di localizzarlo? E chi dovrà pagarlo? Ma soprattutto, verrà pagato con perdite economiche e normali violazioni di sicurezza? O non piuttosto, come Cassandra teme, con eventi catastrofici e imprevedibili, roba da migliaia di morti, causati dal collasso di infrastrutture o da attacchi cibernetici?

Consigliamo la lettura di:

Debito tecnologico e collasso dello slopware

L'hacker di iPhone e PS3: gli agenti che scrivono codice sono un errore enor...

Amazon, troppa IA nello sviluppo causa una settimana di disservizi

Il vibe coding sta uccidendo l'open source. Tutti i lati negativi

Leggi anche:

LLM, algoritmi e debito tecnologico

Tutti sono entusiasti. Cosa mai potrebbe andare storto?

Vibe coding: creare programmi senza saper programmare

Xz, Solarwinds e l'Armageddon prossimo venturo