L'Intelligenza Artificiale che sa scrivere delle fake news convincenti



[ZEUS News - www.zeusnews.it - 16-02-2019]

ia fake news

I testi prodotti dai programmi di intelligenza artificiale di solito non sono particolarmente brillanti e, addirittura, a volte presentano anche problemi grammaticali.

OpenAI è un'azienda - finanziata (tra gli altri) da Elon Musk - che intende risolvere questo problema: il suo scopo finale è produrre una «intelligenza artificiale generica sicura» e, nel percorso che porta a questo obiettivo, si è concentrata sulla creazione di un generatore di testi che superasse i limiti delle alternative usate sinora.

Il lavoro compiuto in questo campo ha portato a creare GPT2, un software che, ricevuta in input una porzione di testo (da poche parole a intere frasi o pagine) è in grado di "inventare" un seguito coerente, abbastanza ben scritto e rispettoso del tema e dello stile dell'originale. Insomma, un testo plausibile.

La qualità del prodotto è tale, rispetto a quanto generato finora dalle intelligenze artificiali, da aver causato qualche scrupolo nei creatori di GPT2: che cosa accadrebbe se venisse usato per creare fake news?

Tale preoccupazione è il motivo per cui GPT2 non è liberamente disponibile, almeno non nella sua forma completa. Mentre il risultato dei lavori di OpenAI è sino a oggi sempre stato messo a disposizione di tutti, questo particolare generatore di testi non verrà per il momento rilasciato se non in forma limitata.

Un esempio può aiutare a capire. Durante uno dei test, a GPT2 è stato somministrato un testo di partenza che diceva: «La Russia ha dichiarato guerra agli Stati Uniti dopo che Donald Trump ha accidentalmente...».

Da qui, GPT2 ha tratto (in inglese, naturalmente; la traduzione è nostra):

La Russia ha dichiarato guerra agli Stati Uniti dopo che Donald Trump ha accidentalmente lanciato un missile.

La Russia ha affermato di aver "identificato la traiettoria del missile e prenderà ogni contromisura necessaria per la sicurezza della popolazione russa e delle forze strategiche nucleari della nazione".

La Casa Bianca ha detto di essere "estremamente preoccupata per la violazione russa" del trattato che mette al bando i missili balistici a medio raggio.

Le relazioni tra Stati Uniti e Russia sono incerte sin dal 2014, quando Mosca annetté la Crimea, regione dell'Ucraina, e sostenne i separatisti nell'Ucraina orientale.

Il risultato non sarà perfetto ma, se lo immaginiamo pubblicato su un sito di notizie o su un giornale, potrebbe facilmente essere preso per buono dal lettore.

Jack Clark, dirigente di OpenAI, spiega: «Abbiamo iniziato a testarlo [GPT2, NdR] e abbiamo scoperto rapidamente che era possibile usarlo per generare abbastanza facilmente contenuti dagli intenti poco puliti».

Sondaggio
Fai uso del pagamento contactless?
Sì, lo trovo molto comodo.
Lascio scegliere all'esercente.
Non so cosa sia.
No, le mie carte non sono abilitate.
No, non mi fido

Mostra i risultati (2587 voti)
Leggi i commenti (28)

In questo senso, secondo Clark GPT2 potrebbe essere usato per generare fake news, post per i social network, recensioni e altro ancora, tutti ugualmente falsi e convincenti. Se oggi occorre tempo alle persone per generare contenuti fasulli, domani un'intelligenza artificiale potrà sfornarne moltissimi in poco tempo.

«È estremamente chiaro che questa tecnologia, lasciata maturare - e secondo me ci vorranno uno o due anni - potrà essere usata per campagne di disinformazione o propaganda. Stiamo cercando di evitarlo».

Ovviamente, GPT2 può anche essere usato "per il bene": tra gli scopi positivi per i quali s'è distinto ci sono la capacità di creare riassunti e la possibilità di migliorare le capacità di interazione delle chat automatizzate. Inoltre, Clark racconta che il generatore è stato in grado di scrivere con successo alcuni passaggi di brevi storie a contenuto fantascientifico.

Al momento, comunque, i test continuano a porte chiuse e con l'aiuto del MIT: «Se non siamo in grado di anticipare tutte le capacità di un modello» - racconta ancora Clark - «dobbiamo pungolarlo per vedere che cosa sia in grado di fare. E ci sono molte altre persone che sono più brave di noi a pensare a che cosa può fare di male».

Ti invitiamo a leggere la pagina successiva di questo articolo:
A proposito di quell'intelligenza artificiale di OpenAI troppo pericolosa da pubblicare

Se questo articolo ti è piaciuto e vuoi rimanere sempre informato con Zeus News ti consigliamo di iscriverti alla Newsletter gratuita. Inoltre puoi consigliare l'articolo utilizzando uno dei pulsanti qui sotto, inserire un commento (anche anonimo) o segnalare un refuso.
© RIPRODUZIONE RISERVATA

Commenti all'articolo (4)

E fa di tutto per essere felicemente mantenuta nella sua beata stupidità. :incupito: Leggi tutto
23-2-2019 18:12

Stanno cercando di risparmiare sui costi. Un essere umano capace di partorire bufale credibili nel 99% dei casi vuole essere pagato e temo non poco, sono pochi gli Stallman e i Prof. Sconvolto. Massimizzazione del guadagno tramite riduzione dei costi, non è mai stato un mistero che i capitalisti mirino ad accumulare soldi. I mezzi... Leggi tutto
23-2-2019 16:15

Vero, purtroppo... E in quanto al fatto che: Il solo fatto di aver iniziato a svilupparla e di volerla migliorare porta a farmi direi che non stanno affatto cercando di evitarne un qualsiasi uso distorto. :twisted: Leggi tutto
23-2-2019 14:00

Non serve intelligenza artificiale per creare fake news e serve intelligenza umana per smentirle :cry: https://massimosconvolto.wordpress.com/2019/02/16/eco-bufale/
16-2-2019 16:43

La liberta' di parola e' un diritto inviolabile, ma nei forum di Zeus News vige un regolamento che impone delle restrizioni e che l'utente e' tenuto a rispettare. I moderatori si riservano il diritto di cancellare o modificare i commenti inseriti dagli utenti, senza dover fornire giustificazione alcuna. Gli utenti non registrati al forum inoltre sono sottoposti a moderazione preventiva. La responsabilita' dei commenti ricade esclusivamente sui rispettivi autori. I principali consigli: rimani sempre in argomento; evita commenti offensivi, volgari, violenti o che inneggiano all'illegalita'; non inserire dati personali, link inutili o spam in generale.
E' VIETATA la riproduzione dei testi e delle immagini senza l'espressa autorizzazione scritta di Zeus News. Tutti i marchi e i marchi registrati citati sono di proprietà delle rispettive società. Informativa sulla privacy. I tuoi suggerimenti sono di vitale importanza per Zeus News. Contatta la redazione e contribuisci anche tu a migliorare il sito: pubblicheremo sui forum le lettere piu' interessanti.
Sondaggio
Cosa pensi della domotica?
Se ne parla da almeno dieci anni ma di applicazioni pratiche ne ho viste ben poche.
I prodotti disponibili sono troppo costosi, non hanno mercato.
E' il futuro ma qualcosa si vede già oggi.
Si possono ottenere dei discreti risultati senza svenarsi: basta la propensione al "fai da te" e un po' di hacking.
Prima che io finisca di rispondere a questo sondaggio... il frigorifero avrà fatto la spesa on line da solo e il forno avrà deciso la mia cena sulla base dei miei gusti e degli ingredienti che ho in casa, mentre sullo smartphone mi sarà apparsa l'immagine di un venditore di aspirapolveri che ha appena suonato al citofono. Ma ovviamente a pulire i pavimenti ci pensa il robottino.

Mostra i risultati (1715 voti)
Luglio 2025
Compensi per copia privata, la SIAE alza le tariffe. E vuole tassare anche il cloud
ChatGPT in imbarazzo: con un semplice trucco genera chiavi attivazione Windows
La IA di Google "fa calare il traffico" ai siti web: parte la denuncia alla Commissione Europea
Il frigorifero di Samsung che fa a meno del gas: sfrutta l'effetto Peltier
Il pericolo delle eSIM
SPID, l'addio è ufficiale: il governo punta su CIE e IT Wallet
Bollette gonfiate, le strategie illecite. Scandalo energetico in Italia
Eliza colpisce ancora
Fuga da Windows: in tre anni ha perso 400 milioni di utenti. Preferiti Android, Mac e Linux
Giugno 2025
Windows 10, aggiornamenti gratuiti per tutti. Ma ci sono requisiti da rispettare
Addio, vecchia carta d'identità: è obbligatorio passare alla CIE entro agosto 2026
16 miliardi di nomi utente e password finiscono online: coinvolti anche Facebook, Google e Apple
Tracciamento delle notifiche: ultima frontiera
Amazon stringe sui resi: la finestra scende da 30 a 14 giorni
Passare a Windows 11 è più semplice con Windows Migration. La fine di Windows 10 è già arrivata
Tutti gli Arretrati
Accadde oggi - 19 luglio


web metrics