Si chiama Deep Nude ed è un'app che Vice Motherboard, il sito che per primo l'ha individuata, ha già definito «spaventosa».

Ciò che fa è semplice da descrivere: a partire dalla foto di una donna (per ora con gli uomini non funziona, ma gli sviluppatori ci stanno lavorando) crea un'immagine che ritrae la stessa persona, ma completamente nuda.

Per farlo utilizza le ormai famose tecniche di intelligenza artificiale, sfruttando le reti neurali per creare una foto che sembri il più possibile simile a come dovrebbe apparire il soggetto dell'immagine se davvero si facesse ritrarre nudo.

Spunti di approfondimento:

Gli orrori annunciati dell'IA diventano realtà

IA generano illustrazioni partendo da una descrizione testuale

Troppi deepfake nei colloqui di lavoro, l'FBI lancia l'allarme

Photoshop e Illustrator sbarcano nel web

Il grado di successo dell'operazione è variabile: negli esempi facilmente trovabili in Rete spesso si nota chiaramente come la foto risultante sia un fake o, per la precisione un deepfake.

Se però la foto è oggetto soltanto di un'occhiata rapida, o viene pubblicata in bassa risoluzione, si può senza troppa difficoltà venire ingannati.

Sullo stesso tema:

Arrivano gli occhiali “smart” di Facebook

Lucasfilm assume lo youtuber che ha saputo fare meglio di lei

Il deepfake che ha ingannato i politici era solo un sosia

Garante privacy si attiva contro il revenge porn

È quindi chiaro perché Vice ha bollato in quel modo DeepNude: gli abusi cui l'app si presta sono certamente più numerosi degli usi e, qualora venisse usata nei confronti di personalità fragili (come quelle degli adolescenti, che sono sempre i primi a provare questo genere di novità), potrebbe anche portare a conseguenze molto serie.

Dopotutto, le false foto pornografiche delle celebrità già esistono; DeepNude "democratizza" il processo di produzione di questo tipo di immagini e lo mette nelle mani di chiunque. Allo stesso modo, chiunque può diventare vittima.

Deepfake di Gal Gadot generato (e censurato) da Motherboard con DeepNude

«È assolutamente spaventoso» ha commentato Katelyn Bowden, fondatrice di Badass, un'associazione che si batte per le vittime del revenge porn. «Adesso chiunque può diventare una vittima del revenge porn, senza che nemmeno esista una foto che lo ritrae nudo. Questa tecnologia non dovrebbe essere a disposizione del pubblico».

Sullo stesso tema:

Un sito per far sorridere i soggetti delle vecchie foto

Tecnologia in crescita nonostante la pandemia

No, Facebook non vuole che gli mandiate le vostre foto intime per bloccarle

Manderesti le tue foto osé a Facebook per prevenire il revenge porn?

Anche se l'immagine è costruita e non ritrae veramente il corpo del soggetto, chi la vede pensa di aver davvero visto nuda quella persona; l'effetto psicologico non è per nulla diverso da quello che scaturirebbe da una fotografia scattata per davvero.

DeepNude, il cui sito al momento in cui scriviamo è offline in quanto è stato preso d'assalto, esiste sia per Linux che per Windows ed è disponibile in due versioni: una gratuita, l'altra a pagamento (costa 99 dollari).

In entrambi i casi all'immagine elaborata viene sovrapposta una filigrana che la identifica chiaramente come fake. Nella versione gratuita, la filigrana copre una buona porzione dell'immagine; in quella a pagamento, invece, è relegata in un angolino e non sembra troppo difficile da togliere per gli esperti di Photoshop.

Deepfake di Natalie Portman generato (e censurato) da Motherboard con DeepNude

Proposte di lettura:

Google elimina il revenge porn dai risultati

Google blocca le vendette osé

Twitter prende posizione contro il revenge porn

Il primo porno girato coi Google Glass

In fondo, è la versione tecnologica - e, fino a un certo punto, funzionante - degli occhiali a raggi X che un tempo si trovavano pubblicizzati sui giornali (e che, ovviamente, non funzionavano). Solo che le immagini che crea possono facilmente diventare di dominio pubblico e avere gravi conseguenze.

Quanto al suo creatore - che si fa chiamare Alberto e ammette di essersi ispirato proprio a quegli occhiali - egli si difende: «Non sono un guardone, sono un appassionato di tecnologia. Sto continuando a migliorare l'algoritmo. Di recente, anche a causa di fallimenti precedenti (altre startup) e di problemi economici, mi sono chiesto se potessi ottenere un ritorno economico da questo algoritmo. È per questo che ho creato DeepNude».

In fondo «quello che si può fare con DeepNude si può fare anche con Photoshop, dopo alcune ore di tutorial». «La tecnologia è pronta (è alla portata di tutti/» spiega ancora Alberto. «Quindi, se qualcuno ha delle cattive intenzioni, l'esistenza di DeepNude non cambia poi molto... Se non l'avessi fatto io, l'avrebbe fatto qualcun altro entro un anno».

Sullo stesso tema:

Lo smartphone con visione a raggi X

La videocamera a raggi X

Raggi X con un rotolo di scotch

La videocamera che spia sotto i vestiti