Il codice generato dalle IA è insicuro e fallace

Uno studio mostra come le Intelligenze Artificiali creino codice errato e contenente vulnerabilità.



[ZEUS News - www.zeusnews.it - 29-12-2022]

ia computer codice insicuro

L'apparizione di sistemi di intelligenza artificiale come il recente ChatGPT ha - in quest'ultimo scorcio di 2022 - destato le preoccupazioni di quanti per vivere creano opere e contenuti che richiedono una buona dose di impegno mentale, si tratti di artisti, di scrittori, o di programmatori.

Le creazioni di Dall-E, o dello stesso ChatGPT hanno spinto molti a pensare che presto non ci sarà più bisogno dell'intervento umano per questo genere di attività, poiché la IA sarà in grado di svolgerle con la stessa qualità delle persone e molto più rapidamente.

In realtà, a ben guardare, le opere delle IA hanno spesso qualche difetto molto evidente, sia che si tratti di immagini (in particolare, pare che i software trovino difficile realizzare le mani dei soggetti in maniera convincente), sia che si tratti di testi (formalmente spesso perfetti, ma con una coerenza interna che cala all'aumentare della lunghezza del testo, per non parlare degli svarioni affermati con granitica certezza), sia che si tratti di codice.

A notare come i programmi generati dalle IA siano inaffidabili è stato inizialmente StackOverflow, che ha preferito bandire questo genere di contenuti dalla propria piattaforma, ma ora un nuovo studio ha confermato la scarsa qualità del codice scritto automaticamente.

In esame è stato preso specificamente Codex, la IA creata per la generazione di codice da OpenAI, l'azienda che ha sviluppato anche ChatGPT e che viene usata nella funzionalità Copilot offerta da Visual Studio.

Per la ricerca, 47 sviluppatori di diverse esperienza (da professionisti navigati a studenti universitari) hanno "gareggiato" con il codice prodotto da Codex per risolvere reali problemi relativi alla sicurezza in vari linguaggi di alto livello, come Python, JavaScript e C.

Il risultato - hanno commentato alla fine i ricercatori - è stato che il codice di Codex s'è dimostrato deludente: meno sicuro e in certi casi semplicemente errato, rispetto delle soluzioni sviluppate dai programmatori umani.

Non è completamente inutile: può essere adoperato come suggerimento quando il compito che deve svolgere è tutto sommato secondario, poiché è sempre necessario che uno sviluppatore umano lo riveda ed è possibile che in questa fase di revisione sfuggano alcuni bug non immediatamente visibili ma pericolosi.

«I sistemi di generazione del codice, allo stato attuale, non possono sostituire gli sviluppatori umani» conclude Neil Perry, co-autore dello studio. «Gli sviluppatori che li usano per completare dei compiti al di fuori del loro campo dovrebbero esserne preoccupati, e quelli che li usano per velocizzare compiti che saprebbero svolgere da sé dovrebbero sempre ricontrollare con attenzione quanto prodotto e il contesto in cui sarà usato all'interno del progetto».

Il problema dell'adozione del codice generato dalle IA è serio sotto almeno due punti di vista: il primo è il probabile inserimento di vulnerabilità; il secondo è l'inserimento nel prodotto finale di codice protetto da copyright, operazione che Codex a quanto pare svolge senza porsi troppi problemi, probabilmente perché per il suo addestramento gli è stato sottoposto anche questo tipo di codice.

E il guaio è che qualche azienda, magari non troppo grande, possa pensare all'utilizzo dei generatori automatici come a una scorciatoia che le consenta di risparmiare tempo e denaro, al prezzo del rischio di inserire falle e vulnerabilità nei software.

Se questo articolo ti è piaciuto e vuoi rimanere sempre informato con Zeus News ti consigliamo di iscriverti alla Newsletter gratuita. Inoltre puoi consigliare l'articolo utilizzando uno dei pulsanti qui sotto, inserire un commento (anche anonimo) o segnalare un refuso.
© RIPRODUZIONE RISERVATA

Approfondimenti
Parolacce nel codice dei primi Word e MS-DOS
Ritrovato il codice sorgente smarrito di Prince Of Persia
PcAnywhere, hacker rilasciano codice sorgente di Symantec

Commenti all'articolo (4)

Concordo con zero e zeross, il punto pi¨ critico e attuale ritengo per˛, oggi, sia quello sottolineato alla fine dell'articolo ovvero: Che potrebbe determinare criticitÓ veramente importanti sempre che giÓ non l'abbia fatto. Leggi tutto
7-1-2023 14:58

Ai ragione, le IA del 2022 sono paragonabili al cervello di una ape, che risulta in grado di svolgere mansioni semplici ma si incastra nelle pi¨ complesse, oltre a non aver la minima idea di cosa sia il diritto di autore. nel 2040 dovremmo aver IA molto pi¨ avanzate di un singolo cervello umano. Leggi tutto
3-1-2023 14:30

{al}
sono come uno strumento musicale. se lo suona un principiante emette rumore, nelle mani di uno "studiato" produce melodia. mo ci faccio un giro per capire di piu'
31-12-2022 04:57

E' naturale che sia cosi'. Le IA attuali sono soltanto le prime rudimentali bozze e devono ancora evolvere. I primissimi cellulari erano grossi come valigette, se li avessimo giudicati per quello che erano, e non per le potenzialita' che avevano, li avremo bocciati e buttati alle ortiche. . Leggi tutto
30-12-2022 09:05

La liberta' di parola e' un diritto inviolabile, ma nei forum di Zeus News vige un regolamento che impone delle restrizioni e che l'utente e' tenuto a rispettare. I moderatori si riservano il diritto di cancellare o modificare i commenti inseriti dagli utenti, senza dover fornire giustificazione alcuna. Gli utenti non registrati al forum inoltre sono sottoposti a moderazione preventiva. La responsabilita' dei commenti ricade esclusivamente sui rispettivi autori. I principali consigli: rimani sempre in argomento; evita commenti offensivi, volgari, violenti o che inneggiano all'illegalita'; non inserire dati personali, link inutili o spam in generale.
E' VIETATA la riproduzione dei testi e delle immagini senza l'espressa autorizzazione scritta di Zeus News. Tutti i marchi e i marchi registrati citati sono di proprietà delle rispettive società. Informativa sulla privacy. I tuoi suggerimenti sono di vitale importanza per Zeus News. Contatta la redazione e contribuisci anche tu a migliorare il sito: pubblicheremo sui forum le lettere piu' interessanti.
Sondaggio
Foto e video occupano troppo spazio sul tuo hard disk ma non vuoi cancellarli. Cosa fai?
Copio tutto su una USB o su un hard disk esterno
Cripto la cartella con le foto e i video e poi la salvo su un hard disk esterno
Sposto i file in un servizio di immagazzinamento su cloud
Cripto i file e li sposto su cloud
Non ho poi cosý tante foto

Mostra i risultati (2105 voti)
Giugno 2023
Pirati del web in lutto: Rarbg chiude per sempre
Venti di tecnocontrollo in Spagna
Maggio 2023
Stack Overflow è la prima vittima della IA
WhatsApp, ora i messaggi si possono modificare dopo l'invio
HP e l'aggiornamento che rende inutilizzabili le stampanti
Windows 10 21H2, aggiornamento forzato in vista
Google Chrome dirà addio al lucchetto da settembre
WhatsApp accede di nascosto al microfono. Solo un bug di Android?
Western Digital agli utenti: gli hacker hanno i vostri dati
Il “Padrino della IA” lascia Google per avvertire il mondo dei pericoli
Aprile 2023
WhatsApp introduce il supporto a più smartphone
La UE metterà il naso negli algoritmi dei giganti del web
Con la vendita della Rete TIM avremo le tariffe più alte
Windows 11 in versione live
Western Digital violata, sottratti 10 Tbyte di dati
Tutti gli Arretrati
Accadde oggi - 5 giugno


web metrics