Intelligenza artificiale: il programmatore pericoloso

Cassandra Crossing/ È vero che le intelligenze artificiali sono ottimi programmatori?



[ZEUS News - www.zeusnews.it - 28-02-2023]

programmatore

D'accordo, non ci sono dubbi: l'intelligenza artificiale funziona bene come autocompletamento per gli editor di scrittura del software. Certamente molto meglio del tanto strombazzato quanto famigerato T9, in tempi lontani pericoloso incasinatore di SMS. Ma per l'ecosistema del software, che ormai permea tutta la realtà, la falsa "intelligenza" artificiale costituisce un pericolo. Sia per il software che per le persone che ci lavorano.

Cassandra, catastrofica come al solito! diranno tutti i lettori, escluso, speriamo, i 24 incrollabili. Bene, per questo motivo il tono della vostra profetessa preferita sarà oggi particolarmente formale, per meglio dimostrare questa sua tesi. Inizierà quindi con l'esporre quali sono i due effetti perversi che l'applicazione delle tecniche di falsa "intelligenza" artificiale allo sviluppo del software genererà; e terminerà enunciando che, come due onde che si rinforzano reciprocamente, questi due fenomeni potranno provocare un vero e proprio tsunami nell'ecosistema del software.

Nei due precedenti articoli di questa serie, Sortilegio e Potere, è stato enunciato il fatto che le false intelligenze artificiali, che utilizzano tecniche di deep learning, pur alimentate con buona parte della cultura del mondo, non possono comprendere niente e non possono imparare niente.

Cosa succederà quando programmatori, già spesso non eccessivamente competenti, stressati da scadenze impossibili e che lavorano su vecchi codici di bassa qualità (insomma la grandissima maggioranza dei programmatori attuali), inizieranno a usare programmi che autocompletano molte linee di codice in maniera automatica e in un colpo solo (come Github Copilot), o che addirittura generano codice rispondendo a una descrizione delle sue funzionalità espressa in linguaggio naturale (come chatGPT)?

Elementare Watson, accadrà che li utilizzeranno in maniera massiccia, per risparmiare lavoro e rispettare le scadenze. E in effetti, per quanto riguarda la generazione di software, le false intelligenze artificiali sono più brave che in altri campi. Ma questo è del tutto logico. Per le false intelligenze artificiali, scrivere codice è più facile, in quanto si tratta di generare un output in un linguaggio di programmazione, cioè in un linguaggio formalizzato, chiuso e privo di ambiguità. Lasciate perdere qui le finezze di Gödel.

Molto (anzi immensamente) più difficile per le false intelligenze artificiali è raccontare una storia, scrivere un articolo o comporre una poesia. Qui le loro prestazioni, dopo un'iniziale effetto wow, evidenziano immediatamente i loro limiti strutturali.

Ma anche nel campo del software, dove le loro prestazioni sono migliori, i limiti di fondo restano. Esse hanno digerito, tra altre cose, una buona parte del software mai scritto al mondo, ma non hanno imparato a programmare e non conoscono la programmazione. Sanno solo trovare la parola (in questo caso l'istruzione) che meglio si adatta alle precedenti, e sanno solo riprodurre quanto hanno digerito.

Exploit come scrivere in Python un semplice algoritmo espresso (bene) in linguaggio naturale, e rifarlo poi facilmente anche in COBOL, sono le cose più facili in cui una falsa intelligenza artificiale possa cimentarsi. Anche se è accaduto che un programmatore di software vedesse così riemergere il suo stesso codice, commenti e nomi di variabili compresi.

Ma cosa possiamo dire della correttezza del software così ottenuto? Della sua sicurezza? Della sua qualità? Chiunque abbia mai lavorato nell'industria del software sa perfettamente che appena un codice sorgente compila e riesce a girare i casi di prova diventa quasi immediatamente un prodotto, e viene rilasciato appena possibile, sempre troppo presto, tanto c'è l'onnipresente "senza nessuna garanzia, esplicita o implicita".

E saprebbe anche rispondere facilmente alla domanda se i programmatori useranno oppure no le energie così risparmiate per esercitare il loro senso critico ai massimi livelli, al fine di scovare non solo gli errori introdotti da loro stessi, ma anche quelli inseriti dalle false intelligenze artificiali.

Questi errori saranno probabilmente ancora più difficili da trovare, in quanto il codice generato da una falsa intelligenza artificiale sarà per sua stessa natura molto simile a un codice perfetto. Simile. Non basta! Il codice è legge, come diceva Lawrence Lessig, e la legge dovrebbe tendere alla perfezione.

Cassandra profetizza invece, senza grande sforzo, che questa aumentata produttività verrà spesa per utilizzare programmatori con competenze minori, e fargli produrre di più, come polli da allevamento. In fondo in fondo, all'industria del software un buon programmatore, uno che scrive codice di qualità, magari originale, e che cerca di prevenire problemi e correggere specifiche approssimative, ha sempre dato fastidio. Gli era talvolta necessario, ma dava fastidio.

Un tale individuo tende a produrre meno codice, a non rispettare scadenze irrealistiche pur di fare un buon lavoro, magari persino a pretendere di essere pagato bene. Si dice persino che, nei casi più gravi, possa essere sorpreso a lavorare in maniera etica. Non sia mai! Il sogno dell'industria del software è far scomparire questo tipo di programmatori, anzi far scomparire proprio la programmazione stessa.

In questo modo la produzione del software potrà essere affidata a legioni di miti, disciplinate e soprattutto sostituibili scimmie da tastiera, che verranno ovviamente pagate in noccioline, e quindi faranno una bellissima figura nei bilanci delle aziende, e ne renderanno felici sia i dirigenti che gli azionisti.

Ma il codice così realizzato funzionerà? Certo che funzionerà, funzionerà come quello prodotto oggi, cioè il minimo indispensabile, tanto ci sono gli utenti che trovano gli errori e che sono sempre pronti a pagare l'assistenza o a comprare la nuova versione. E agli errori davvero grossi porranno rimedio le clausole contrattuali e le compagnie assicurative.

E così la globalizzazione della miseria farà un altro passo avanti, le sonde interplanetarie continueranno a fare buchi su pianeti sempre più lontani, le macchine per la radioterapia continueranno a far buchi nella testa dei pazienti, i missili a far buchi negli aerei civili, i robot assassini a riempire di buchi le persone anche quando non dovrebbero. "Business as usual" potranno invece dire, in maniera cinica ma del tutto normale, poche ma molto contente Intelligenze Naturali.

Se questo articolo ti è piaciuto e vuoi rimanere sempre informato con Zeus News ti consigliamo di iscriverti alla Newsletter gratuita. Inoltre puoi consigliare l'articolo utilizzando uno dei pulsanti qui sotto, inserire un commento (anche anonimo) o segnalare un refuso.
© RIPRODUZIONE RISERVATA

Approfondimenti
Il primo presentatore artificiale indistinguibile da un essere umano
L'intelligenza artificiale che trasforma chiunque in un ballerino provetto
L'intelligenza artificiale che vede attraverso i muri e segue i movimenti delle persone
Uber capirà se siamo ubriachi prima ancora che l'auto arrivi a prenderci
L'Assistente di Google spara e uccide una mela
Intelligenza artificiale e robotica: demo impressionanti
Intelligenze artificiali per creare cartoni animati o isolare voci
Scienziati avvertono: alieni potrebbero distruggerci con malware extraterrestre

Commenti all'articolo (ultimi 5 di 11)

Intanto c'Ŕ chi pensa,ed io concordo,che il tutto non sia/sarÓ che 'hallucinations': https://cybernews.com/tech/chatgpts-bard-ai-answers-hallucination/
11-3-2023 18:28

@zero Posso concordare con le tue considerazioni sul lungo periodo, ma il timore Ŕ sul presente. Siccome giÓ oggi, sul codice scritto dagli umani e quindi, almeno per ora, pi¨ robusto di quello prodotto da una AI, le fasi di test sono quello che sono - dal momento che per risparmiare tempo e costi sempre li si va a tagliare - non oso... Leggi tutto
11-3-2023 10:54

Lo sviluppo del software si compone di varie fasi: analisi, progettazione, scrittura del codice, TEST. La scrittura del codice richiede molte risorse (persone e tempo) e al momento e' ancora "artigianale". Se in futuro riusciremo ad automatizzarla, sara' un vantaggio per tutti. La fase di TEST, con gli anni si e' ridotta, ma... Leggi tutto
6-3-2023 09:41

Da programmatore concordo: lasciare che la AI generi codice porterÓ sicuramente porzioni di codice con bug nascosti ed estremamente insidiosi. Con conseguenze non solo per poche persone, ma per tutti quelli che a catena si ritroveranno a usarlo, pur inconsapevoli. In un mondo cosý interconnesso il rischio Ŕ molto concreto. Inoltreů Non... Leggi tutto
6-3-2023 08:10

Questo ho l'impressione che lo abbiano pensato anche i nostri genitori e/o i nostri nonni, in ogni caso Ŕ la mia stessa sensazione. Leggi tutto
4-3-2023 11:34

La liberta' di parola e' un diritto inviolabile, ma nei forum di Zeus News vige un regolamento che impone delle restrizioni e che l'utente e' tenuto a rispettare. I moderatori si riservano il diritto di cancellare o modificare i commenti inseriti dagli utenti, senza dover fornire giustificazione alcuna. Gli utenti non registrati al forum inoltre sono sottoposti a moderazione preventiva. La responsabilita' dei commenti ricade esclusivamente sui rispettivi autori. I principali consigli: rimani sempre in argomento; evita commenti offensivi, volgari, violenti o che inneggiano all'illegalita'; non inserire dati personali, link inutili o spam in generale.
E' VIETATA la riproduzione dei testi e delle immagini senza l'espressa autorizzazione scritta di Zeus News. Tutti i marchi e i marchi registrati citati sono di proprietà delle rispettive società. Informativa sulla privacy. I tuoi suggerimenti sono di vitale importanza per Zeus News. Contatta la redazione e contribuisci anche tu a migliorare il sito: pubblicheremo sui forum le lettere piu' interessanti.
Sondaggio
La cosiddetta green economy genera nuova ricchezza e aumenta sempre di pi¨. Secondo te:
E' un sintomo di vera innovazione.
Significa che bisogna ripensare il concetto di sviluppo.
Lo sviluppo economico non pu˛ fare a meno dello sfruttamento ambientale.
E' la prova che economia e ambiente possono andare di pari passo.
E' solo una speculazione temporanea.

Mostra i risultati (4061 voti)
Giugno 2023
Pirati del web in lutto: Rarbg chiude per sempre
Venti di tecnocontrollo in Spagna
Maggio 2023
Stack Overflow è la prima vittima della IA
WhatsApp, ora i messaggi si possono modificare dopo l'invio
HP e l'aggiornamento che rende inutilizzabili le stampanti
Windows 10 21H2, aggiornamento forzato in vista
Google Chrome dirà addio al lucchetto da settembre
WhatsApp accede di nascosto al microfono. Solo un bug di Android?
Western Digital agli utenti: gli hacker hanno i vostri dati
Il “Padrino della IA” lascia Google per avvertire il mondo dei pericoli
Aprile 2023
WhatsApp introduce il supporto a più smartphone
La UE metterà il naso negli algoritmi dei giganti del web
Con la vendita della Rete TIM avremo le tariffe più alte
Windows 11 in versione live
Western Digital violata, sottratti 10 Tbyte di dati
Tutti gli Arretrati
Accadde oggi - 5 giugno


web metrics