Stack Overflow contro la IA: banditi i contenuti generati da ChatGPT

Il bot produce contributi all'apparenza perfetti, ma in realtà pieni di errori.



[ZEUS News - www.zeusnews.it - 06-12-2022]

stack overflow ban chatgpt

La notizia sarà forse consolante per quanti temono che presto le cosiddette intelligenze artificiali riescano a sostituirsi in toto all'uomo, dando il via alla famigerata "rivolta delle macchine".

Stack Overflow, forse il sito più usato da programmatori di ogni livello di esperienza, ha messo al bando, seppure temporaneamente, le risposte generate dal chatbot ChatGPT.

L'attuale beniamino degli appassionati di IA, derivato dalla versione 3.5 di GPT, presenta infatti due problemi: facilita la scrittura delle risposte, con il conseguente rischio di "inondazione" di Stack Overflow, e quelle risposte sono sbagliate.

«Il problema principale» scrivono i gestori del sito - «è che le risposte prodotte da ChatGPT hanno un'elevata percentuale di errori; per lo più sembra soltanto che possano essere buone, e inoltre sono facili da generare».

«Pertanto» - continua Stack Overflow - «dobbiamo ridurre la quantità di questi post. Così, per il momento, l'uso di ChatGPT per creare post qui su Stack Overflow non è consentito. Se riterremo che un utente abbia usato ChatGPT dopo la pubblicazione di questa regola temporanea imporremo delle sanzione per impedire all'utente di continuare a pubblicare tali contenuti, anche qualora il post fosse accettabili dagli altri punti di vista».

I gestori di Stack Overflow non sono peraltro i primi ad aver notato problemi nelle risposte generate da ChatGPT: chi l'ha provato ha spesso testimoniato che quelle risposte sono generalmente fluide, ben scritte, plausibili e persino convincenti ma anche false.

A essere errati non sono dettagli che potrebbero anche essere considerati opinabili. Richiesto di compilare la biografia di un personaggio pubblico, per esempio, ChatGPT è stato scoperto a inserire dati biografici palesemente falsi, anche se inseriti nel discorso in maniera perfetta.

La stessa cosa può accadere nella generazione del codice: il bot riesce a produrre programmi che a prima vista possono sembrare adeguati ma che in realtà non funzionano.

Tutto ciò non dovrebbe sorprendere. ChatGPT, come dovrebbe essere ovvio, non capisce davvero ciò che fa: basandosi su modelli statistici, offre la risposta che sembra più probabile a partire dai modelli sui quali è stato addestrato, ossia il materiale disponibile nel web. Non controlla e non può controllare se quanto ha prodotto sia davvero corretto: può soltanto fare in modo che sia simile agli schemi che ha imparato a riconoscere durante l'addestramento.

Dato che gli errori inseriti nelle risposte a tema programmazione e scovati dai mod di Stack Overflow «spesso richiedono una lettura attenta da parte di qualcuno che abbiamo almeno una certe esperienza con la materia», la piattaforma - che si basa sull'apporto di volontari - ha preferito andare sul sicuro e sospendere tutti i contribuiti generati dalla IA.

E, intanto, ci si chiede quanto questa propensione a produrre contenuti all'apparenza plausibili ma in realtà errati influisca sui lavori dei bot in altri settori, e quanto si possa ridurre il margine d'errore per non dover fare del tutto a meno di strumenti come questi.

Se questo articolo ti è piaciuto e vuoi rimanere sempre informato con Zeus News ti consigliamo di iscriverti alla Newsletter gratuita. Inoltre puoi consigliare l'articolo utilizzando uno dei pulsanti qui sotto, inserire un commento (anche anonimo) o segnalare un refuso.
© RIPRODUZIONE RISERVATA

Approfondimenti
Antibufala: ''robot di Facebook'' che parlano fra loro una lingua sconosciuta
No, un ''supercomputer'' non ha superato il Test di Turing
I libri generati automaticamente dai commenti di YouTube
Mi son fatto la fidanzata... nel cloud

Commenti all'articolo (2)

Di solito la logica di stackoverflow prevedeva che ad ogni domanda ti beccavi: - qualche downvote non giustificato per niente; - un paio di insulti per quanto sei scarso; - una risposta che riporta esattamente quello che hai già provato; - una risposta totalmente a caso; - una risposta con un pacchetto fatto da chi ti risponde o di... Leggi tutto
11-12-2022 15:36

Gente che si affida ad un BOT per generare parti di codice di programmazione non merita di essere definita programmatore. :grrr:
10-12-2022 16:14

La liberta' di parola e' un diritto inviolabile, ma nei forum di Zeus News vige un regolamento che impone delle restrizioni e che l'utente e' tenuto a rispettare. I moderatori si riservano il diritto di cancellare o modificare i commenti inseriti dagli utenti, senza dover fornire giustificazione alcuna. Gli utenti non registrati al forum inoltre sono sottoposti a moderazione preventiva. La responsabilita' dei commenti ricade esclusivamente sui rispettivi autori. I principali consigli: rimani sempre in argomento; evita commenti offensivi, volgari, violenti o che inneggiano all'illegalita'; non inserire dati personali, link inutili o spam in generale.
E' VIETATA la riproduzione dei testi e delle immagini senza l'espressa autorizzazione scritta di Zeus News. Tutti i marchi e i marchi registrati citati sono di proprietà delle rispettive società. Informativa sulla privacy. I tuoi suggerimenti sono di vitale importanza per Zeus News. Contatta la redazione e contribuisci anche tu a migliorare il sito: pubblicheremo sui forum le lettere piu' interessanti.
Sondaggio
Qual è la tua piattaforma mobile preferita?
Windows Phone
Android
iOS (iPhone)
BlackBerry OS (Rim)
Symbian
Ubuntu o altro Linux
Bada

Mostra i risultati (4870 voti)
Luglio 2025
Il frigorifero di Samsung che fa a meno del gas: sfrutta l'effetto Peltier
Il pericolo delle eSIM
SPID, l'addio è ufficiale: il governo punta su CIE e IT Wallet
Bollette gonfiate, le strategie illecite. Scandalo energetico in Italia
Eliza colpisce ancora
Fuga da Windows: in tre anni ha perso 400 milioni di utenti. Preferiti Android, Mac e Linux
Giugno 2025
Windows 10, aggiornamenti gratuiti per tutti. Ma ci sono requisiti da rispettare
Addio, vecchia carta d'identità: è obbligatorio passare alla CIE entro agosto 2026
16 miliardi di nomi utente e password finiscono online: coinvolti anche Facebook, Google e Apple
Tracciamento delle notifiche: ultima frontiera
Amazon stringe sui resi: la finestra scende da 30 a 14 giorni
Passare a Windows 11 è più semplice con Windows Migration. La fine di Windows 10 è già arrivata
WhatsApp, ecco perché stai ricevendo un messaggio che ti chiede di aggiungere l'indirizzo email
Richiamati oltre un milione di power bank: potrebbero surriscaldarsi fino a prendere fuoco
La Danimarca lascerà Windows e Microsoft Office, passando a Linux e LibreOffice
Tutti gli Arretrati
Accadde oggi - 11 luglio


web metrics