Foto di Compagnons.

Mentre i grandi nomi dell'informatica sembrano volersi affidare completamente alla generazione di codice da parte dei Large Language Models (LLM), qualche voce contraria sta iniziando a manifestarsi. Di recente il noto hacker e informatico George Hotz ha messo in guardia dai pericoli che questo approccio nasconde. Egli sostiene che i cosiddetti coding agent rappresentino uno dei più grandi errori strategici nello sviluppo software contemporaneo, un approccio che rischia di aumentare costi, complessità e dipendenza da sistemi automatici difficili da controllare. Hotz, noto per i suoi lavori di reverse engineering, sulla guida autonoma e sui modelli linguistici, ha affermato che l'idea di delegare l'intero sviluppo a sistemi automatici è «una delle decisioni più costose che l'industria possa prendere»: ha spiegato che l'automazione totale introduce livelli di opacità incompatibili con la manutenzione a lungo termine. Il problema di fondo è la distanza crescente tra codice generato e codice comprensibile per gli sviluppatori, un divario che rischia di rendere più difficile intervenire in caso di errori.

Le critiche di Hotz si inseriscono in un contesto in cui molte aziende stanno sperimentando agenti capaci di operare su codice reale, modificando configurazioni e operando in autonomia. Hotz sostiene che questi sistemi, se non progettati con limiti chiari, possano introdurre regressioni difficili da individuare. Ha dichiarato che «un agente che modifica codice senza che nessuno lo capisca è un rischio operativo enorme», sottolineando che la responsabilità finale rimane comunque in capo ai team "umani". L'informatico non critica l'uso dell'IA come strumento di supporto, ma l'idea di affidare all'agente l'intero ciclo di sviluppo. La sua posizione è che gli strumenti di assistenza - come completamento del codice, suggerimenti contestuali e analisi statica avanzata - abbiano un valore concreto, mentre gli agenti autonomi rischino di generare più lavoro di quanto ne eliminino. Il problema principale, secondo lui, è la mancanza di trasparenza nei processi decisionali dei modelli.

Hotz ha evidenziato che l'adozione massiccia di agenti autonomi potrebbe portare a un aumento dei costi di manutenzione. Le modifiche automatiche, se non perfettamente tracciate e spiegabili, richiedono audit più frequenti e complessi. Le aziende che implementano questi sistemi potrebbero trovarsi a dover investire in nuovi livelli di controllo, verifiche e strumenti di monitoraggio per garantire che il codice generato non introduca vulnerabilità o comportamenti indesiderati.

Un altro punto sollevato riguarda la qualità del codice prodotto dagli agenti. Secondo le fonti, Hotz ritiene che i modelli linguistici siano ottimi nel generare soluzioni superficiali, ma meno affidabili nel gestire architetture complesse o vincoli non esplicitati. Ciò può portare a un accumulo di debito tecnico difficile da smaltire. La sua posizione è che «il codice deve essere scritto per essere mantenuto, non solo per funzionare al primo tentativo».

Sullo stesso tema:

Il debito tecnico come arma cibernetica?

L'IA di Anthropic trova troppi bug: gli sviluppatori non riescono a starle d...

Tutti programmatori con Google AI Studio

Linux Torvalds contro la IA: invece di accelerare lo sviluppo lo rallenta

Le sue osservazioni arrivano in un momento in cui molte aziende stanno annunciando agenti capaci di gestire repository completi. Alcuni progetti sperimentali hanno mostrato agenti che aprono centinaia di pull request in pochi minuti, un comportamento che secondo Hotz rischia di saturare i processi di revisione - come di recente ha confermato anche Linus Torvalds - e di rendere più difficile distinguere modifiche utili da modifiche cosmetiche o ridondanti. Hotz ha anche criticato l'idea che gli agenti possano sostituire completamente gli sviluppatori. La sua tesi è che la programmazione non sia solo scrittura di codice, ma comprensione dei sistemi, modellazione dei problemi e gestione delle interazioni tra componenti. Gli agenti, secondo lui, non possiedono ancora una rappresentazione strutturata sufficiente per assumere questo ruolo.

Il dibattito si inserisce nella discussione più ampia sul futuro dello sviluppo software. Alcuni ricercatori ritengono che gli agenti possano ridurre drasticamente i tempi di produzione, mentre altri condividono le preoccupazioni di Hotz sulla manutenibilità e sulla responsabilità. Le aziende che stanno sperimentando questi sistemi stanno già introducendo limiti operativi, come sandbox dedicate, revisioni obbligatorie e restrizioni sulle aree del codice modificabili. La posizione di Hotz ha avuto ampia risonanza nel web tra gli sviluppatori, che per lo più vedono nei coding agent una tecnologia promettente ma ancora immatura. Le sue osservazioni evidenziano la necessità di bilanciare automazione e controllo umano, soprattutto in contesti in cui la stabilità del software è un requisito critico.

Ti raccomandiamo anche:

Google accelera: il 75% del codice è scritto dall'IA

OpenAI lancia il piano Pro intermedio

OpenAI spegne Sora. Troppi costi, pochi utenti

Amazon, troppa IA nello sviluppo causa una settimana di disservizi