Il codice generato dalle IA è insicuro e fallace

Uno studio mostra come le Intelligenze Artificiali creino codice errato e contenente vulnerabilità.



[ZEUS News - www.zeusnews.it - 29-12-2022]

ia computer codice insicuro

L'apparizione di sistemi di intelligenza artificiale come il recente ChatGPT ha - in quest'ultimo scorcio di 2022 - destato le preoccupazioni di quanti per vivere creano opere e contenuti che richiedono una buona dose di impegno mentale, si tratti di artisti, di scrittori, o di programmatori.

Le creazioni di Dall-E, o dello stesso ChatGPT hanno spinto molti a pensare che presto non ci sarà più bisogno dell'intervento umano per questo genere di attività, poiché la IA sarà in grado di svolgerle con la stessa qualità delle persone e molto più rapidamente.

In realtà, a ben guardare, le opere delle IA hanno spesso qualche difetto molto evidente, sia che si tratti di immagini (in particolare, pare che i software trovino difficile realizzare le mani dei soggetti in maniera convincente), sia che si tratti di testi (formalmente spesso perfetti, ma con una coerenza interna che cala all'aumentare della lunghezza del testo, per non parlare degli svarioni affermati con granitica certezza), sia che si tratti di codice.

A notare come i programmi generati dalle IA siano inaffidabili è stato inizialmente StackOverflow, che ha preferito bandire questo genere di contenuti dalla propria piattaforma, ma ora un nuovo studio ha confermato la scarsa qualità del codice scritto automaticamente.

In esame è stato preso specificamente Codex, la IA creata per la generazione di codice da OpenAI, l'azienda che ha sviluppato anche ChatGPT e che viene usata nella funzionalità Copilot offerta da Visual Studio.

Per la ricerca, 47 sviluppatori di diverse esperienza (da professionisti navigati a studenti universitari) hanno "gareggiato" con il codice prodotto da Codex per risolvere reali problemi relativi alla sicurezza in vari linguaggi di alto livello, come Python, JavaScript e C.

Il risultato - hanno commentato alla fine i ricercatori - è stato che il codice di Codex s'è dimostrato deludente: meno sicuro e in certi casi semplicemente errato, rispetto delle soluzioni sviluppate dai programmatori umani.

Non è completamente inutile: può essere adoperato come suggerimento quando il compito che deve svolgere è tutto sommato secondario, poiché è sempre necessario che uno sviluppatore umano lo riveda ed è possibile che in questa fase di revisione sfuggano alcuni bug non immediatamente visibili ma pericolosi.

«I sistemi di generazione del codice, allo stato attuale, non possono sostituire gli sviluppatori umani» conclude Neil Perry, co-autore dello studio. «Gli sviluppatori che li usano per completare dei compiti al di fuori del loro campo dovrebbero esserne preoccupati, e quelli che li usano per velocizzare compiti che saprebbero svolgere da sé dovrebbero sempre ricontrollare con attenzione quanto prodotto e il contesto in cui sarà usato all'interno del progetto».

Il problema dell'adozione del codice generato dalle IA è serio sotto almeno due punti di vista: il primo è il probabile inserimento di vulnerabilità; il secondo è l'inserimento nel prodotto finale di codice protetto da copyright, operazione che Codex a quanto pare svolge senza porsi troppi problemi, probabilmente perché per il suo addestramento gli è stato sottoposto anche questo tipo di codice.

E il guaio è che qualche azienda, magari non troppo grande, possa pensare all'utilizzo dei generatori automatici come a una scorciatoia che le consenta di risparmiare tempo e denaro, al prezzo del rischio di inserire falle e vulnerabilità nei software.

Se questo articolo ti è piaciuto e vuoi rimanere sempre informato con Zeus News ti consigliamo di iscriverti alla Newsletter gratuita. Inoltre puoi consigliare l'articolo utilizzando uno dei pulsanti qui sotto, inserire un commento (anche anonimo) o segnalare un refuso.
© RIPRODUZIONE RISERVATA

Approfondimenti
Parolacce nel codice dei primi Word e MS-DOS
Ritrovato il codice sorgente smarrito di Prince Of Persia
PcAnywhere, hacker rilasciano codice sorgente di Symantec

Commenti all'articolo (4)

Concordo con zero e zeross, il punto più critico e attuale ritengo però, oggi, sia quello sottolineato alla fine dell'articolo ovvero: Che potrebbe determinare criticità veramente importanti sempre che già non l'abbia fatto. Leggi tutto
7-1-2023 14:58

Ai ragione, le IA del 2022 sono paragonabili al cervello di una ape, che risulta in grado di svolgere mansioni semplici ma si incastra nelle più complesse, oltre a non aver la minima idea di cosa sia il diritto di autore. nel 2040 dovremmo aver IA molto più avanzate di un singolo cervello umano. Leggi tutto
3-1-2023 14:30

{al}
sono come uno strumento musicale. se lo suona un principiante emette rumore, nelle mani di uno "studiato" produce melodia. mo ci faccio un giro per capire di piu'
31-12-2022 04:57

E' naturale che sia cosi'. Le IA attuali sono soltanto le prime rudimentali bozze e devono ancora evolvere. I primissimi cellulari erano grossi come valigette, se li avessimo giudicati per quello che erano, e non per le potenzialita' che avevano, li avremo bocciati e buttati alle ortiche. . Leggi tutto
30-12-2022 09:05

La liberta' di parola e' un diritto inviolabile, ma nei forum di Zeus News vige un regolamento che impone delle restrizioni e che l'utente e' tenuto a rispettare. I moderatori si riservano il diritto di cancellare o modificare i commenti inseriti dagli utenti, senza dover fornire giustificazione alcuna. Gli utenti non registrati al forum inoltre sono sottoposti a moderazione preventiva. La responsabilita' dei commenti ricade esclusivamente sui rispettivi autori. I principali consigli: rimani sempre in argomento; evita commenti offensivi, volgari, violenti o che inneggiano all'illegalita'; non inserire dati personali, link inutili o spam in generale.
E' VIETATA la riproduzione dei testi e delle immagini senza l'espressa autorizzazione scritta di Zeus News. Tutti i marchi e i marchi registrati citati sono di proprietà delle rispettive società. Informativa sulla privacy. I tuoi suggerimenti sono di vitale importanza per Zeus News. Contatta la redazione e contribuisci anche tu a migliorare il sito: pubblicheremo sui forum le lettere piu' interessanti.
Sondaggio
Quanto spendi di elettricità ogni mese?
Meno di 30 euro
Tra 30 e 50 euro
Tra 50 e 75 euro
Tra 75 e 100 euro
Tra 100 e 150 euro
Più di 150 euro

Mostra i risultati (2946 voti)
Novembre 2024
Huawei, l'addio ad Android è completo
Contanti e trionfanti
WhatsApp, la trascrizione dei messaggi vocali è realtà
La vecchietta digitale che fa perdere tempo ai truffatori telefonici
La punteggiatura è morta: l'ha uccisa l'iPhone
Elon Musk e l'attacco ai giudici italiani
D-Link, falla in migliaia di NAS non sarà mai corretta
L'app per aggiornare a Windows 11 anche i PC non supportati
Lo script per aggirare i requisiti hardware di Windows 11
Windows, ora si può accede allo smartphone senza il cavo USB
Ottobre 2024
San Francisco, 200 milioni per liberare la metropolitana dai floppy disk
WhatsApp semplifica i contatti e si prepara a supportare i nomi utente
Windows 11 24H2, bug a non finire
Windows 11 24H2 occupa un sacco di spazio su disco
Bucato l'Internet Archive, sottratti i dati di 31 milioni di utenti
Tutti gli Arretrati
Accadde oggi - 2 dicembre


web metrics