Stack Overflow contro la IA: banditi i contenuti generati da ChatGPT

Il bot produce contributi all'apparenza perfetti, ma in realtà pieni di errori.



[ZEUS News - www.zeusnews.it - 06-12-2022]

stack overflow ban chatgpt

La notizia sarà forse consolante per quanti temono che presto le cosiddette intelligenze artificiali riescano a sostituirsi in toto all'uomo, dando il via alla famigerata "rivolta delle macchine".

Stack Overflow, forse il sito più usato da programmatori di ogni livello di esperienza, ha messo al bando, seppure temporaneamente, le risposte generate dal chatbot ChatGPT.

L'attuale beniamino degli appassionati di IA, derivato dalla versione 3.5 di GPT, presenta infatti due problemi: facilita la scrittura delle risposte, con il conseguente rischio di "inondazione" di Stack Overflow, e quelle risposte sono sbagliate.

«Il problema principale» scrivono i gestori del sito - «è che le risposte prodotte da ChatGPT hanno un'elevata percentuale di errori; per lo più sembra soltanto che possano essere buone, e inoltre sono facili da generare».

«Pertanto» - continua Stack Overflow - «dobbiamo ridurre la quantità di questi post. Così, per il momento, l'uso di ChatGPT per creare post qui su Stack Overflow non è consentito. Se riterremo che un utente abbia usato ChatGPT dopo la pubblicazione di questa regola temporanea imporremo delle sanzione per impedire all'utente di continuare a pubblicare tali contenuti, anche qualora il post fosse accettabili dagli altri punti di vista».

I gestori di Stack Overflow non sono peraltro i primi ad aver notato problemi nelle risposte generate da ChatGPT: chi l'ha provato ha spesso testimoniato che quelle risposte sono generalmente fluide, ben scritte, plausibili e persino convincenti ma anche false.

A essere errati non sono dettagli che potrebbero anche essere considerati opinabili. Richiesto di compilare la biografia di un personaggio pubblico, per esempio, ChatGPT è stato scoperto a inserire dati biografici palesemente falsi, anche se inseriti nel discorso in maniera perfetta.

La stessa cosa può accadere nella generazione del codice: il bot riesce a produrre programmi che a prima vista possono sembrare adeguati ma che in realtà non funzionano.

Tutto ciò non dovrebbe sorprendere. ChatGPT, come dovrebbe essere ovvio, non capisce davvero ciò che fa: basandosi su modelli statistici, offre la risposta che sembra più probabile a partire dai modelli sui quali è stato addestrato, ossia il materiale disponibile nel web. Non controlla e non può controllare se quanto ha prodotto sia davvero corretto: può soltanto fare in modo che sia simile agli schemi che ha imparato a riconoscere durante l'addestramento.

Dato che gli errori inseriti nelle risposte a tema programmazione e scovati dai mod di Stack Overflow «spesso richiedono una lettura attenta da parte di qualcuno che abbiamo almeno una certe esperienza con la materia», la piattaforma - che si basa sull'apporto di volontari - ha preferito andare sul sicuro e sospendere tutti i contribuiti generati dalla IA.

E, intanto, ci si chiede quanto questa propensione a produrre contenuti all'apparenza plausibili ma in realtà errati influisca sui lavori dei bot in altri settori, e quanto si possa ridurre il margine d'errore per non dover fare del tutto a meno di strumenti come questi.

Se questo articolo ti è piaciuto e vuoi rimanere sempre informato con Zeus News ti consigliamo di iscriverti alla Newsletter gratuita. Inoltre puoi consigliare l'articolo utilizzando uno dei pulsanti qui sotto, inserire un commento (anche anonimo) o segnalare un refuso.
© RIPRODUZIONE RISERVATA

Approfondimenti
Antibufala: ''robot di Facebook'' che parlano fra loro una lingua sconosciuta
No, un ''supercomputer'' non ha superato il Test di Turing
I libri generati automaticamente dai commenti di YouTube
Mi son fatto la fidanzata... nel cloud

Commenti all'articolo (2)

Di solito la logica di stackoverflow prevedeva che ad ogni domanda ti beccavi: - qualche downvote non giustificato per niente; - un paio di insulti per quanto sei scarso; - una risposta che riporta esattamente quello che hai gi provato; - una risposta totalmente a caso; - una risposta con un pacchetto fatto da chi ti risponde o di... Leggi tutto
11-12-2022 15:36

Gente che si affida ad un BOT per generare parti di codice di programmazione non merita di essere definita programmatore. :grrr:
10-12-2022 16:14

La liberta' di parola e' un diritto inviolabile, ma nei forum di Zeus News vige un regolamento che impone delle restrizioni e che l'utente e' tenuto a rispettare. I moderatori si riservano il diritto di cancellare o modificare i commenti inseriti dagli utenti, senza dover fornire giustificazione alcuna. Gli utenti non registrati al forum inoltre sono sottoposti a moderazione preventiva. La responsabilita' dei commenti ricade esclusivamente sui rispettivi autori. I principali consigli: rimani sempre in argomento; evita commenti offensivi, volgari, violenti o che inneggiano all'illegalita'; non inserire dati personali, link inutili o spam in generale.
E' VIETATA la riproduzione dei testi e delle immagini senza l'espressa autorizzazione scritta di Zeus News. Tutti i marchi e i marchi registrati citati sono di proprietà delle rispettive società. Informativa sulla privacy. I tuoi suggerimenti sono di vitale importanza per Zeus News. Contatta la redazione e contribuisci anche tu a migliorare il sito: pubblicheremo sui forum le lettere piu' interessanti.
Sondaggio
Qual il primo dispositivo che utilizzi, la mattina?
Il cellulare
La Tv
La radio
Il computer
Il rasoio
La macchinetta del caff
L'asciugacapelli

Mostra i risultati (4041 voti)
Gennaio 2023
Libero e Virgilio Mail offline da giorni, verso la risoluzione
Pesci da compagnia fanno acquisti sulla Switch all'insaputa del padrone
Il ritorno del Walkman
Invecchiare al tempo della Rete
Apache contro Apache
Cessa il supporto a Windows 7. Microsoft: “Non passate a Windows 10”
Lo smartphone con schermo e-ink da 6,1 pollici
Dicembre 2022
WhatsApp dal nuovo anno non funzionerà più su 47 smartphone
LastPass, la violazione è molto più grave del previsto
Netflix, giro di vite sulla condivisione delle password
Digitale terrestre: si spegne la TV in definizione standard
Disorganizzazione informatica fa desistere i cybercriminali
Windows 7 e Windows 8: Microsoft annuncia la fine del supporto
Telefonia, inizia l'era degli aumenti infiniti
La settimana lavorativa di quattro giorni è un successo
Tutti gli Arretrati
Accadde oggi - 29 gennaio


web metrics