Moltissime persone stanno usando la funzione Magic Avatar dell'app Lensa AI per crearsi dei ritratti personali digitali stilizzati, da usare per esempio come immagini dei profili social ma anche per puro divertimento, e i risultati sono davvero notevoli. Gli incassi della casa produttrice, Prisma Labs, ammontano già a svariati milioni di dollari.

Ma per usare Lensa AI bisogna affidare a quest'azienda una decina di foto del proprio volto, quindi una serie di dati biometrici sensibili. Pertanto sarebbe opportuno leggere l'informativa sulla riservatezza dei dati e le condizioni d'uso per scoprire che fine fanno queste foto: vengono depositate temporaneamente sui server dell'azienda, che si trovano negli Stati Uniti, e cancellate subito dopo la generazione degli avatar corrispondenti. Così dice Andrey Usoltsev, CEO e cofondatore di Prisma Labs.

Il problema è che oltre alle vostre foto, Lensa AI acquisisce molte altre informazioni personali "a scopo di marketing", come per esempio (sezione 3 delle condizioni d'uso) che tipo di smartphone usate, il vostro indirizzo IP e soprattutto i dati di tracciamento pubblicitario raccolti dai principali operatori del settore, ossia i cosiddetti IDFA di Apple o gli Android Advertising ID di Google, che possono essere poi ceduti o rivenduti ad altre società.

Potete disabilitare questa raccolta di dati andando nelle apposite impostazioni di iOS o di Android e seguendo le istruzioni fornite nell'informativa di Lensa AI.

Leggi anche:

Gli orrori annunciati dell'IA diventano realtà

Google, un evento per tenere a bada Microsoft e la IA

I social ai tempi di GPT-3

Intelligenza Artificiale: il potere

Ci sono anche alcune precauzioni che riguardano in particolare i bambini e le donne: mandare a Lensa AI immagini di bambini è contrario alle condizioni d'uso e produce risultati che mi limito a definire inquietanti. Per le donne, invece, Lensa AI ha una spiccata tendenza a generare immagini fortemente sessualizzate: l'app spesso genera nudi integrali e pose molto esplicite anche se si mandano solo fotografie del proprio volto.

Stranamente non sembra esserci lo stesso problema per gli uomini: per loro vengono generate solitamente immagini in stile eroico o comunque ritratti normali. Potete farvene un'idea sfogliando i tweet che usano l'hashtag #lensaai.

Proposte di lettura:

Robot che generano altri robot per creare una base sulla Luna

Intelligenza Artificiale: il sortilegio

Adobe attiva di nascosto l'analisi automatica delle opere degli utenti

L'avvocato robot è pronto per la sua prima causa

Ma il problema più grave è che è possibile usare Lensa AI per generare immagini pornografiche realistiche di altre persone in modo pericolosamente semplice. Se si appiccica rozzamente, con Photoshop, il volto di una persona su immagini esplicite di un'altra, Lensa AI fonde perfettamente le due immagini.

Lensa AI usa una versione del software di intelligenza artificiale Stable Diffusion che è dotata di filtri che in teoria dovrebbero bloccare le immagini non adatte, ma a quanto risulta dai test effettuati dai ricercatori questi filtri vanno in tilt se si usa una serie appositamente confezionata di immagini.

Le immagini pornografiche false di celebrità o di persone comuni, usate spesso come strumenti di aggressione, bullismo o umiliazione, purtroppo non sono una novità, ma generarle prima richiedeva una notevole competenza nell'uso di programmi di fotoritocco e questo ne frenava la produzione e l'abuso. Ora, invece, grazie a Lensa AI questo ostacolo non esiste più: bastano un telefonino e pochi dollari.

Per approfondire:

L'app che rivela se un testo è stato scritto dalla IA

Il codice generato dalle IA è insicuro e fallace

L'intelligenza artificiale oltre i suoi limiti

Musk e i chip nel cervello: sperimentazione sull'uomo in sei mesi

Prisma Labs ha dichiarato che sta prendendo delle misure tecniche per risolvere questo problema, ma l'avvento generale di questi software di intelligenza artificiale sta creando un pantano etico che sta già spingendo alcuni governi, come per esempio quello britannico, a valutare leggi che criminalizzino la disseminazione di foto intime generate artificialmente senza consenso.

Nel frattempo è forse il caso di ridurre, se possibile, la quantità di fotografie dei nostri volti che mettiamo a disposizione di chiunque pubblicandole sui social network. L'intelligenza artificiale, purtroppo, non aiuta a contrastare la cattiveria naturale.

Fonte aggiuntiva: TechCrunch.

Per approfondire:

Da Amazon un robot capace di sostituire i lavoratori nei magazzini

DALL-E diventa libero e gratuito: immagini sintetiche per tutti

IA generano illustrazioni partendo da una descrizione testuale

Chi difende gli adulti?