La tecnologia di manipolazione deepfake, che consente di sostituire i volti nei video in maniera quasi completamente automatica, crea una certa inquietudine perché quando è usata bene consente di ottenere risultati estremamente credibili con un impegno di risorse tecniche molto modesto (basta un computer domestico).

L'idea che ci si possa trovare circondati da video falsi indistinguibili dagli originali ha ovviamente delle forti implicazioni in molti campi, dalla politica al giornalismo alla documentazione storica alle indagini giudiziarie.

Ma la ricerca scientifica corre veloce anche nel settore dello smascheramento di questi falsi, proponendo tecniche di analisi e identificazione sempre più ingegnose.

Ti raccomandiamo anche:

Da Adobe un bollino per identificare le immagini generate dalla IA

Deepfake per furti ed estorsioni

Gli orrori annunciati dell'IA diventano realtà

Una libreria open source per aggiungere la IA ai siti web

Tre ricercatori della State University of New York hanno pubblicato una di queste tecniche nel paper In Ictu Oculi: Exposing AI Generated Fake Face Videos by Detecting Eye Blinking, che suggerisce di esaminare matematicamente il movimento delle palpebre nei video per capire se è naturale o no e quindi rivelare eventuali falsificazioni.

Le persone sbattono le palpebre in media circa 17 volte al minuto: questa cadenza aumenta durante una conversazione e diminuisce durante la lettura. Ma gli attuali software di generazione dei deepfake non tengono conto di questo fenomeno, per cui una cadenza errata, misurata da un apposito software, rivela la manipolazione.

Spunti di approfondimento:

Troppi deepfake nei colloqui di lavoro, l'FBI lancia l'allarme

Lucasfilm assume lo youtuber che ha saputo fare meglio di lei

Il deepfake che ha ingannato i politici era solo un sosia

Un sito per far sorridere i soggetti delle vecchie foto

Secondo i ricercatori, fra l'altro, migliorare i deepfake per includere la cadenza corretta non è facile, perché i dataset usati per "addestrare" questi programmi di solito non contengono immagini dei volti-bersaglio con gli occhi chiusi.

I falsificatori dovranno quindi inventarsi un modo per aggiungere il movimento corretto delle palpebre. La gara fra falsificatori e smascheratori non conosce soste.