Il codice generato dalle IA è insicuro e fallace

Uno studio mostra come le Intelligenze Artificiali creino codice errato e contenente vulnerabilità.



[ZEUS News - www.zeusnews.it - 29-12-2022]

ia computer codice insicuro

L'apparizione di sistemi di intelligenza artificiale come il recente ChatGPT ha - in quest'ultimo scorcio di 2022 - destato le preoccupazioni di quanti per vivere creano opere e contenuti che richiedono una buona dose di impegno mentale, si tratti di artisti, di scrittori, o di programmatori.

Le creazioni di Dall-E, o dello stesso ChatGPT hanno spinto molti a pensare che presto non ci sarà più bisogno dell'intervento umano per questo genere di attività, poiché la IA sarà in grado di svolgerle con la stessa qualità delle persone e molto più rapidamente.

In realtà, a ben guardare, le opere delle IA hanno spesso qualche difetto molto evidente, sia che si tratti di immagini (in particolare, pare che i software trovino difficile realizzare le mani dei soggetti in maniera convincente), sia che si tratti di testi (formalmente spesso perfetti, ma con una coerenza interna che cala all'aumentare della lunghezza del testo, per non parlare degli svarioni affermati con granitica certezza), sia che si tratti di codice.

A notare come i programmi generati dalle IA siano inaffidabili è stato inizialmente StackOverflow, che ha preferito bandire questo genere di contenuti dalla propria piattaforma, ma ora un nuovo studio ha confermato la scarsa qualità del codice scritto automaticamente.

In esame è stato preso specificamente Codex, la IA creata per la generazione di codice da OpenAI, l'azienda che ha sviluppato anche ChatGPT e che viene usata nella funzionalità Copilot offerta da Visual Studio.

Per la ricerca, 47 sviluppatori di diverse esperienza (da professionisti navigati a studenti universitari) hanno "gareggiato" con il codice prodotto da Codex per risolvere reali problemi relativi alla sicurezza in vari linguaggi di alto livello, come Python, JavaScript e C.

Il risultato - hanno commentato alla fine i ricercatori - è stato che il codice di Codex s'è dimostrato deludente: meno sicuro e in certi casi semplicemente errato, rispetto delle soluzioni sviluppate dai programmatori umani.

Non è completamente inutile: può essere adoperato come suggerimento quando il compito che deve svolgere è tutto sommato secondario, poiché è sempre necessario che uno sviluppatore umano lo riveda ed è possibile che in questa fase di revisione sfuggano alcuni bug non immediatamente visibili ma pericolosi.

«I sistemi di generazione del codice, allo stato attuale, non possono sostituire gli sviluppatori umani» conclude Neil Perry, co-autore dello studio. «Gli sviluppatori che li usano per completare dei compiti al di fuori del loro campo dovrebbero esserne preoccupati, e quelli che li usano per velocizzare compiti che saprebbero svolgere da sé dovrebbero sempre ricontrollare con attenzione quanto prodotto e il contesto in cui sarà usato all'interno del progetto».

Il problema dell'adozione del codice generato dalle IA è serio sotto almeno due punti di vista: il primo è il probabile inserimento di vulnerabilità; il secondo è l'inserimento nel prodotto finale di codice protetto da copyright, operazione che Codex a quanto pare svolge senza porsi troppi problemi, probabilmente perché per il suo addestramento gli è stato sottoposto anche questo tipo di codice.

E il guaio è che qualche azienda, magari non troppo grande, possa pensare all'utilizzo dei generatori automatici come a una scorciatoia che le consenta di risparmiare tempo e denaro, al prezzo del rischio di inserire falle e vulnerabilità nei software.

Se questo articolo ti è piaciuto e vuoi rimanere sempre informato con Zeus News ti consigliamo di iscriverti alla Newsletter gratuita. Inoltre puoi consigliare l'articolo utilizzando uno dei pulsanti qui sotto, inserire un commento (anche anonimo) o segnalare un refuso.
© RIPRODUZIONE RISERVATA

Approfondimenti
Parolacce nel codice dei primi Word e MS-DOS
Ritrovato il codice sorgente smarrito di Prince Of Persia
PcAnywhere, hacker rilasciano codice sorgente di Symantec

Commenti all'articolo (4)

Concordo con zero e zeross, il punto più critico e attuale ritengo però, oggi, sia quello sottolineato alla fine dell'articolo ovvero: Che potrebbe determinare criticità veramente importanti sempre che già non l'abbia fatto. Leggi tutto
7-1-2023 14:58

Ai ragione, le IA del 2022 sono paragonabili al cervello di una ape, che risulta in grado di svolgere mansioni semplici ma si incastra nelle più complesse, oltre a non aver la minima idea di cosa sia il diritto di autore. nel 2040 dovremmo aver IA molto più avanzate di un singolo cervello umano. Leggi tutto
3-1-2023 14:30

{al}
sono come uno strumento musicale. se lo suona un principiante emette rumore, nelle mani di uno "studiato" produce melodia. mo ci faccio un giro per capire di piu'
31-12-2022 04:57

E' naturale che sia cosi'. Le IA attuali sono soltanto le prime rudimentali bozze e devono ancora evolvere. I primissimi cellulari erano grossi come valigette, se li avessimo giudicati per quello che erano, e non per le potenzialita' che avevano, li avremo bocciati e buttati alle ortiche. . Leggi tutto
30-12-2022 09:05

La liberta' di parola e' un diritto inviolabile, ma nei forum di Zeus News vige un regolamento che impone delle restrizioni e che l'utente e' tenuto a rispettare. I moderatori si riservano il diritto di cancellare o modificare i commenti inseriti dagli utenti, senza dover fornire giustificazione alcuna. Gli utenti non registrati al forum inoltre sono sottoposti a moderazione preventiva. La responsabilita' dei commenti ricade esclusivamente sui rispettivi autori. I principali consigli: rimani sempre in argomento; evita commenti offensivi, volgari, violenti o che inneggiano all'illegalita'; non inserire dati personali, link inutili o spam in generale.
E' VIETATA la riproduzione dei testi e delle immagini senza l'espressa autorizzazione scritta di Zeus News. Tutti i marchi e i marchi registrati citati sono di proprietà delle rispettive società. Informativa sulla privacy. I tuoi suggerimenti sono di vitale importanza per Zeus News. Contatta la redazione e contribuisci anche tu a migliorare il sito: pubblicheremo sui forum le lettere piu' interessanti.
Sondaggio
Quale mezzo di trasporto pubblico sostituirà quelli attuali nel giro dei prossimi 50 anni?
Evacuated Tube Transport: l'evoluzione dei treni a levitazione magnetica; questi veicoli sono in grado di raggiungere i 6.500 km/h perché viaggiano all'interno di tunnel in cui è creato il vuoto.
String Transport System: cabine sospese fino a 30 metri dal suolo che corrono su binari di acciaio e cemento a oltre 500 km/h.
Tubular Rails: i treni viaggiano a 240 km/h all'interno di anelli sollevati dal suolo che contengono i motori e le ruote, mentre le carrozze ospitano i binari.
I bus viaggiano al di sopra del traffico automobilistico, il quale scorre sotto di loro, usando piccole rotaie poste ai lati della strada.
Shweeb: monorotaia monoposto sospesa e a pedali che permette di raggiungere i 45 km/h.
SolarBullet: il treno ad alta velocità (354 km/h) alimentato a energia solare attualmente allo studio in Arizona (USA).
Treni elettrici che non necessitano di binari perché viaggiano su strada e ricevono l'energia dal sistema contactless installato al di sotto dell'asfalto.
SARTRE: le automobili viaggiano in convogli gestiti dall'intelligenza artificiale; si uniscono i vantaggi del trasporto pubblico alla flessibilità del trasporto privato.
Startram, il maglev orbitale: gli ultimi 20 chilometri del tracciato (di oltre 1.600 km) puntano verso l'alto per portare in orbita i treni.
Ascensore spaziale: una stazione posta a quasi 100.000 km da terra e collegata al suolo da cavi costituiti da nanotubi di carbonio, per portare in orbita uomini e materiali con costi relativamente contenuti.

Mostra i risultati (2962 voti)
Marzo 2025
ChatGPT ''impazzisce'' e accusa di omicidio un innocente
Addio a Windows 10: Microsoft importuna gli utenti via email
Da Apple un iPhone sottilissimo e senza porta di ricarica
Il giorno che la IA si rifiutò di eseguire un comando
Seagate, la truffa dei dischi usati si fa più sofisticata
Stampanti HP, dopo l'update non funzionano neanche le cartucce originali
Il sistema open source compatibile con Windows
Western Digital dice addio agli SSD
LibreWolf, il fork di Firefox che rispetta davvero la privacy
Gemini sbircia dalla videocamera del telefono
Forse Paragon ha intercettato anche Papa Francesco
Febbraio 2025
Seagate, si allarga il caso dei dischi usati venduti per nuovi
Gmail, addio agli SMS per l'autenticazione a due fattori
IA: era una bolla quella che è scoppiata
Majorana 1, il rivoluzionario chip quantistico di Microsoft
Tutti gli Arretrati
Accadde oggi - 23 marzo


web metrics