Il problema dei deepfake, video generati applicando il volto di qualcuno al corpo di qualcun altro, facendogli fare e dire cose che non ha mai detto o fatto, è delicato: oltre ai divertissement come inserire un attore al posto di un altro in un film e oltre ai video pornografici apparentemente interpretati da celebrità, esistono infatti anche i deepfake politici: video falsi nei quali presidenti o figure politicamente importanti dicono o fanno cose imbarazzanti o sconvenienti.

La questione politica è emersa fortemente negli Stati Uniti in questi giorni perché un video falso, nel quale la presidente della Camera dei Rappresentanti, Nancy Pelosi, sembra articolare a fatica le parole, è diventato virale, con oltre due milioni di visualizzazioni, ed è stato poi condiviso anche dall'influentissimo Rudy Giuliani, avvocato personale di Donald Trump.

Facebook, però, non ha rimosso il video: lo ha "deprioritizzato" e gli ha affiancato delle informazioni di fact-checking. Secondo il social network, infatti, la gente deve poter prendere le proprie decisioni informate su cosa credere e il compito di Facebook è assicurarsi di fornire alla gente informazioni accurate.

Sullo stesso tema:

Zuckerberg contro Zuckerberg: l'avvocato Mark Zuckerberg cita Meta per sospe...

Da Adobe un bollino per identificare le immagini generate dalla IA

Deepfake per furti ed estorsioni

Gli orrori annunciati dell'IA diventano realtà

C'è chi trova un po' pilatesca questa risposta e quindi ha deciso di sfidare Facebook creando e postando su Instagram (che è di Facebook) un deepfake che coinvolge Mark Zuckerberg, facendogli dire, in modo estremamente realistico e abbastanza credibile, cose come questa: "Immaginatevi questo per un secondo: un solo uomo che ha il controllo totale dei dati rubati di miliardi di persone, tutti i loro segreti, le loro vite, i loro futuri. Io devo tutto questo alla Spectre. La Spectre mi ha mostrato che chiunque controlli i dati, controlla il futuro".

La Spectre dei film di James Bond, tuttavia, non c'entra nulla: si tratta del nome scelto da due artisti, Bill Posters e Daniel Howe, e dall'agenzia pubblicitaria Canny per un'installazione artistica presentata il mese scorso nell'ambito di un festival che si tiene a Sheffield, nel Regno Unito.

Sullo stesso tema:

Una libreria open source per aggiungere la IA ai siti web

Troppi deepfake nei colloqui di lavoro, l'FBI lancia l'allarme

Unreal Engine 5, videogiochi indistinguibili dalla realtà

Il deepfake che ha ingannato i politici era solo un sosia

Un portavoce di Instagram ha dichiarato che questo deepfake verrà gestito come tutti gli altri: se verrà segnalato come falso e i fact-checker esterni confermeranno che è falso, verrà filtrato ed escluso. Di diverso avviso è invece la CBS, il cui logo compare nel video: la rete televisiva statunitense ha chiesto direttamente la rimozione completa.

Ci vuole però un occhio attento per accorgersi delle leggere imperfezioni di questi deepfake, e se le cose dette o fatte nei video sono plausibili è facile che gli utenti non si accorgano della falsificazione e non notino neanche gli avvisi dei fact-checker. Non è ancora chiaro, insomma, se la semplice etichettatura sia un rimedio sufficiente. Guardate per esempio quest'altro video della Spectre, che raffigura Kim Kardashian.

Secondo voi, quanti utenti distratti si accorgeranno che quello che dice è falso?