Post scritto da una IA inganna 26.000 persone

E raggiunge il primo posto su Hacker News.



[ZEUS News - www.zeusnews.it - 20-08-2020]

gpt 3 post blog 26000 hacker news

All'inizio del 2019 destò una certa attenzione la presentazione di Gpt-2, un'intelligenza artificiale creata da OpenAI e capace di generare testi di qualità sufficiente da sembrare scritti da un essere umano.

In piena paranoia da fake news, Gpt-2 venne subito bollato come il generatore perfetto di notizie false, tanto che i suoi creatori decisero di rendere nota soltanto una parte del programma, e non il suo intero codice.

Nei mesi intercorsi da allora Gpt-2 si è evoluto in Gpt-3, che rispetto al predecessore è capace di creare testi ancora più simili a quelli che produrrebbe un autore umano.

A differenza di quanto fatto per Gpt-2, per Gpt-3 i suoi creatori hanno deciso di adottare un modello che non tenesse segreto il frutto dei loro sforzi ma allo stesso tempo non lo rendesse disponibile al grande pubblico: la IA è stata pertanto messa a disposizione soltanto dei ricercatori che facciano richiesta di accesso alla beta privata.

Così ha fatto Liam Porr, studente universitario, il quale ha ideato un esperimento con cui ha fornito la prova circa la qualità dei testi di Gpt-3.

Porr ha usato l'intelligenza artificiale per scrivere un post che è stato tanto apprezzato da arrivare al primo posto su Hacker News. Soltanto pochi lettori hanno capito che era stato generato da un programma e, anzi, quanti l'hanno pubblicamente sostenuto nei commenti sono stati zittiti dagli altri, almeno fino a che il lavoro di Porr non è diventato di dominio pubblico.

Tale lavoro non è stato estenuante. «In realtà è stato facilissimo» - ha raccontato lo studente - «ed è questa la parte che fa paura».

Gpt-3 non è né può essere creativo nel senso di essere capace di dare vita a idee completamente nuove. Viene invece addestrato assorbendo un'enorme mole di dati, che analizza rilevando le parole chiave, le associazioni tra di esse, le espressioni più usate e via di seguito.

Poi, partendo da quanto ha digerito produce un nuovo testo, che chiaramente potrà essere soltanto una rielaborazione del materiale di partenza, esposto però in maniera abbastanza convincente da poter passare per qualcosa di nuovo.

Gpt-3 «È bravo a scrivere con proprietà di linguaggio, ma non lo è molto nel seguire logica e razionalità» commenta ancora Porr il quale, conscio di questi limiti, per il suo post di prova ha deciso di adottare un argomento per il quale non sarebbe servita una logica stringente: produttività e auto-aiuto.

Il tentativo è stato evidentemente un successo, anche perché fino alla rivelazione finale i pochi che avevano sollevato dubbi sull'origine del testo hanno immediatamente ricevuto voti negativi dagli altri, fenomeno che peraltro può dirla lunga sulla potenza del conformismo verso l'idea maggioritaria e la sfiducia verso chi solleva dubbi.

gpt 3 downvote

È questo un punto da tenere a mente sopratutto ora che Gpt-3 ha dimostrato come sia possibile ingannare un buon numero di persone (il post ha ricevuto 26.000 visualizzazioni in poche ore, e ciò prima dello svelamento), in quanto come già accadde per Gpt-2 si è riaffacciato lo spettro della possibilità di generare molta disinformazione con pochissima fatica.

E, a un livello forse più basso ma sempre problematico, sistemi come Gpt-3 possono essere usati per generare grandi quantità di contenuti clickbait privi di qualsiasi vero contenuto informativo, mandando alla lunga in crisi da un lato la produzione di contenuti nel web (dato che diventa difficile distinguere ciò che è originale da ciò che non lo è) e dall'altro la remunerazione tramite pubblicità (poiché sarà forse necessario provare ai network pubblicitari di ospitare solo contenuti scritti da persone, e non da robot).

«È possibile» - commenta Porr - «che ci sia un'inondazione di contenuti mediocri, dato che le maglie dei filtri sono ormai tanto larghe. Penso che il valore dei contenuti online calerà parecchio».

OpenAI, intanto, non ha commentato l'operato di Porr. «Magari sono un po' seccati da quanto ho fatto» ipotizza il ragazzo. «Insomma, è una cosa un po' sciocca».

Se questo articolo ti è piaciuto e vuoi rimanere sempre informato con Zeus News ti consigliamo di iscriverti alla Newsletter gratuita. Inoltre puoi consigliare l'articolo utilizzando uno dei pulsanti qui sotto, inserire un commento (anche anonimo) o segnalare un refuso.
© RIPRODUZIONE RISERVATA

Commenti all'articolo (3)

Certo, ma almeno qualcuno ci si doveva impegnare per farlo - a volte più a volte meno certo - ma averlo a costo pressoché zero è ancora peggio (IMHO).
5-6-2021 14:52

Questo è sempre avvenuto già molto prima dell'avvento dell'intelligenza artificiale. La storia è piena di episodi nei quali le umane genti si sono fatte condizionare da idee e notizie create ad arte per orientare consenso, adeguamento e sottomissione a idee utili solo a chi ha fatto del potere e del controllo una ragione di vita. E di... Leggi tutto
5-6-2021 12:31

Mi sento di concordare con la considerazione finale di Porr, una possibilità di questo genere fa veramente paura. Poter inondare internet di fake news orientate a muovere il pensiero comune verso una determinata direzione a costo zero è veramente uno scenario da brividi.
11-10-2020 16:18

La liberta' di parola e' un diritto inviolabile, ma nei forum di Zeus News vige un regolamento che impone delle restrizioni e che l'utente e' tenuto a rispettare. I moderatori si riservano il diritto di cancellare o modificare i commenti inseriti dagli utenti, senza dover fornire giustificazione alcuna. Gli utenti non registrati al forum inoltre sono sottoposti a moderazione preventiva. La responsabilita' dei commenti ricade esclusivamente sui rispettivi autori. I principali consigli: rimani sempre in argomento; evita commenti offensivi, volgari, violenti o che inneggiano all'illegalita'; non inserire dati personali, link inutili o spam in generale.
E' VIETATA la riproduzione dei testi e delle immagini senza l'espressa autorizzazione scritta di Zeus News. Tutti i marchi e i marchi registrati citati sono di proprietà delle rispettive società. Informativa sulla privacy. I tuoi suggerimenti sono di vitale importanza per Zeus News. Contatta la redazione e contribuisci anche tu a migliorare il sito: pubblicheremo sui forum le lettere piu' interessanti.
Sondaggio
Quali di questi dati ti spiacerebbe perdere di più?
Dati finanziari e di pagamento
Documenti relativi al lavoro
Email personali
Email di lavoro
Messaggi personali (SMS, Whatsapp ecc.)
Foto dei miei bambini
Foto dei viaggi
Foto private o particolari o sensibili di me stesso
Foto private o particolari o sensibili del mio partner
Altre foto (non sensibili)
Note e documenti personali
Password
Rubrica degli indirizzi o dei contatti telefonici
Scansioni di passaporti, patenti, assicurazioni e altri documenti personali

Mostra i risultati (1654 voti)
Settembre 2022
La “tanica di benzina” per le auto elettriche
La strana storia dell'utente HME2 di Arpanet
LibreOffice diventa a pagamento
2022, fuga dall'open source
Dati a spasso nel cloud
Di chi sono i tuoi dati quando muori?
Smartphone, l'UE vuole pezzi di ricambio disponibili per almeno 5 anni
Ex designer di Microsoft demolisce il menu Start di Windows 11
Auto Hyundai “hackerata”
Agosto 2022
Genitori indagati dopo aver mandato foto dei figli ai medici
DuckDuckGo, la protezione delle email è per tutti
Il computer portatile economico che fa a meno del monitor
Microsoft avvisa: attenzione all'aggiornamento KB501270
WhatsApp, arriva il blocco degli screenshot
Le chiavi dell'auto? Al sicuro nel microonde
Tutti gli Arretrati
Accadde oggi - 28 settembre


web metrics