Post scritto da una IA inganna 26.000 persone

E raggiunge il primo posto su Hacker News.



[ZEUS News - www.zeusnews.it - 20-08-2020]

gpt 3 post blog 26000 hacker news

All'inizio del 2019 destò una certa attenzione la presentazione di Gpt-2, un'intelligenza artificiale creata da OpenAI e capace di generare testi di qualità sufficiente da sembrare scritti da un essere umano.

In piena paranoia da fake news, Gpt-2 venne subito bollato come il generatore perfetto di notizie false, tanto che i suoi creatori decisero di rendere nota soltanto una parte del programma, e non il suo intero codice.

Nei mesi intercorsi da allora Gpt-2 si è evoluto in Gpt-3, che rispetto al predecessore è capace di creare testi ancora più simili a quelli che produrrebbe un autore umano.

A differenza di quanto fatto per Gpt-2, per Gpt-3 i suoi creatori hanno deciso di adottare un modello che non tenesse segreto il frutto dei loro sforzi ma allo stesso tempo non lo rendesse disponibile al grande pubblico: la IA è stata pertanto messa a disposizione soltanto dei ricercatori che facciano richiesta di accesso alla beta privata.

Così ha fatto Liam Porr, studente universitario, il quale ha ideato un esperimento con cui ha fornito la prova circa la qualità dei testi di Gpt-3.

Porr ha usato l'intelligenza artificiale per scrivere un post che è stato tanto apprezzato da arrivare al primo posto su Hacker News. Soltanto pochi lettori hanno capito che era stato generato da un programma e, anzi, quanti l'hanno pubblicamente sostenuto nei commenti sono stati zittiti dagli altri, almeno fino a che il lavoro di Porr non è diventato di dominio pubblico.

Tale lavoro non è stato estenuante. «In realtà è stato facilissimo» - ha raccontato lo studente - «ed è questa la parte che fa paura».

Gpt-3 non è né può essere creativo nel senso di essere capace di dare vita a idee completamente nuove. Viene invece addestrato assorbendo un'enorme mole di dati, che analizza rilevando le parole chiave, le associazioni tra di esse, le espressioni più usate e via di seguito.

Poi, partendo da quanto ha digerito produce un nuovo testo, che chiaramente potrà essere soltanto una rielaborazione del materiale di partenza, esposto però in maniera abbastanza convincente da poter passare per qualcosa di nuovo.

Gpt-3 «È bravo a scrivere con proprietà di linguaggio, ma non lo è molto nel seguire logica e razionalità» commenta ancora Porr il quale, conscio di questi limiti, per il suo post di prova ha deciso di adottare un argomento per il quale non sarebbe servita una logica stringente: produttività e auto-aiuto.

Il tentativo è stato evidentemente un successo, anche perché fino alla rivelazione finale i pochi che avevano sollevato dubbi sull'origine del testo hanno immediatamente ricevuto voti negativi dagli altri, fenomeno che peraltro può dirla lunga sulla potenza del conformismo verso l'idea maggioritaria e la sfiducia verso chi solleva dubbi.

gpt 3 downvote

È questo un punto da tenere a mente sopratutto ora che Gpt-3 ha dimostrato come sia possibile ingannare un buon numero di persone (il post ha ricevuto 26.000 visualizzazioni in poche ore, e ciò prima dello svelamento), in quanto come già accadde per Gpt-2 si è riaffacciato lo spettro della possibilità di generare molta disinformazione con pochissima fatica.

E, a un livello forse più basso ma sempre problematico, sistemi come Gpt-3 possono essere usati per generare grandi quantità di contenuti clickbait privi di qualsiasi vero contenuto informativo, mandando alla lunga in crisi da un lato la produzione di contenuti nel web (dato che diventa difficile distinguere ciò che è originale da ciò che non lo è) e dall'altro la remunerazione tramite pubblicità (poiché sarà forse necessario provare ai network pubblicitari di ospitare solo contenuti scritti da persone, e non da robot).

«È possibile» - commenta Porr - «che ci sia un'inondazione di contenuti mediocri, dato che le maglie dei filtri sono ormai tanto larghe. Penso che il valore dei contenuti online calerà parecchio».

OpenAI, intanto, non ha commentato l'operato di Porr. «Magari sono un po' seccati da quanto ho fatto» ipotizza il ragazzo. «Insomma, è una cosa un po' sciocca».

Se questo articolo ti è piaciuto e vuoi rimanere sempre informato con Zeus News ti consigliamo di iscriverti alla Newsletter gratuita. Inoltre puoi consigliare l'articolo utilizzando uno dei pulsanti qui sotto, inserire un commento (anche anonimo) o segnalare un refuso.
© RIPRODUZIONE RISERVATA

Approfondimenti
Il deepfake che ha ingannato i politici era solo un sosia
Perché i computer sono stupidi?
Da Turing a Gpt-3, la lunga storia dell’Intelligenza artificiale
Attacco a Microsoft Exchange, decine di migliaia i server ancora vulnerabili
Lavoro in Italia: soddisfatti o rassegnati?
L'Intelligenza Artificiale che sa scrivere delle fake news convincenti

Commenti all'articolo (3)

Certo, ma almeno qualcuno ci si doveva impegnare per farlo - a volte più a volte meno certo - ma averlo a costo pressoché zero è ancora peggio (IMHO).
5-6-2021 14:52

Questo è sempre avvenuto già molto prima dell'avvento dell'intelligenza artificiale. La storia è piena di episodi nei quali le umane genti si sono fatte condizionare da idee e notizie create ad arte per orientare consenso, adeguamento e sottomissione a idee utili solo a chi ha fatto del potere e del controllo una ragione di vita. E di... Leggi tutto
5-6-2021 12:31

Mi sento di concordare con la considerazione finale di Porr, una possibilità di questo genere fa veramente paura. Poter inondare internet di fake news orientate a muovere il pensiero comune verso una determinata direzione a costo zero è veramente uno scenario da brividi.
11-10-2020 16:18

La liberta' di parola e' un diritto inviolabile, ma nei forum di Zeus News vige un regolamento che impone delle restrizioni e che l'utente e' tenuto a rispettare. I moderatori si riservano il diritto di cancellare o modificare i commenti inseriti dagli utenti, senza dover fornire giustificazione alcuna. Gli utenti non registrati al forum inoltre sono sottoposti a moderazione preventiva. La responsabilita' dei commenti ricade esclusivamente sui rispettivi autori. I principali consigli: rimani sempre in argomento; evita commenti offensivi, volgari, violenti o che inneggiano all'illegalita'; non inserire dati personali, link inutili o spam in generale.
E' VIETATA la riproduzione dei testi e delle immagini senza l'espressa autorizzazione scritta di Zeus News. Tutti i marchi e i marchi registrati citati sono di proprietà delle rispettive società. Informativa sulla privacy. I tuoi suggerimenti sono di vitale importanza per Zeus News. Contatta la redazione e contribuisci anche tu a migliorare il sito: pubblicheremo sui forum le lettere piu' interessanti.
Sondaggio
Hai mai incontrato persone conosciute online?
Non è mai capitato, ma vorrei.
Non è mai capitato e non ne ho intenzione.
E' capitato, ma continuiamo a tenerci in contatto prevalentemente attraverso Internet.
E' capitato e ora la relazione è prevalentemente telefonica o dal vivo.
E' capitato, ma la delusione è stata tale che non ci sentiamo più.

Mostra i risultati (2756 voti)
Giugno 2021
Windows 11, l'ISO del sistema finisce in Rete
Windows 11, i primi screenshot sfuggono in Rete
Tutti gli indizi che puntano a Windows 11
Gli hard disk al grafene sono 10 volte più capienti
Microsoft nasconde la fotocamera sotto lo schermo che forma il logo di Windows
Il nuovo Windows 10 si svela a fine mese
Nuova tecnica contro il ransomware: ingannare il sistema di pagamento
Maggio 2021
Malvivente condannato grazie a una foto delle dita pubblicata online
Annunciata la prossima generazione di Windows
Guidi male? Forse è un primo segno di demenza
Scarsità di chip, televisori più cari del 30%
Android 12: veloce, attento alla privacy e personalizzabile
Nella Tesla schiantatasi con “nessuno” al volante c’era qualcuno al volante
WhatsApp, funzionalità ridotte se non si vogliono regalare i dati a Facebook
La scorciatoia da tastiera che scongela il Pc
Tutti gli Arretrati
Accadde oggi - 19 giugno


web metrics