Lensa AI, avatar personali bellissimi ma a rischio



[ZEUS News - www.zeusnews.it - 10-02-2023]

lensa ai1

Moltissime persone stanno usando la funzione Magic Avatar dell'app Lensa AI per crearsi dei ritratti personali digitali stilizzati, da usare per esempio come immagini dei profili social ma anche per puro divertimento, e i risultati sono davvero notevoli. Gli incassi della casa produttrice, Prisma Labs, ammontano già a svariati milioni di dollari.

Ma per usare Lensa AI bisogna affidare a quest'azienda una decina di foto del proprio volto, quindi una serie di dati biometrici sensibili. Pertanto sarebbe opportuno leggere l'informativa sulla riservatezza dei dati e le condizioni d'uso per scoprire che fine fanno queste foto: vengono depositate temporaneamente sui server dell'azienda, che si trovano negli Stati Uniti, e cancellate subito dopo la generazione degli avatar corrispondenti. Così dice Andrey Usoltsev, CEO e cofondatore di Prisma Labs.

Il problema è che oltre alle vostre foto, Lensa AI acquisisce molte altre informazioni personali "a scopo di marketing", come per esempio (sezione 3 delle condizioni d'uso) che tipo di smartphone usate, il vostro indirizzo IP e soprattutto i dati di tracciamento pubblicitario raccolti dai principali operatori del settore, ossia i cosiddetti IDFA di Apple o gli Android Advertising ID di Google, che possono essere poi ceduti o rivenduti ad altre società.

Potete disabilitare questa raccolta di dati andando nelle apposite impostazioni di iOS o di Android e seguendo le istruzioni fornite nell'informativa di Lensa AI.

Ci sono anche alcune precauzioni che riguardano in particolare i bambini e le donne: mandare a Lensa AI immagini di bambini è contrario alle condizioni d'uso e produce risultati che mi limito a definire inquietanti. Per le donne, invece, Lensa AI ha una spiccata tendenza a generare immagini fortemente sessualizzate: l'app spesso genera nudi integrali e pose molto esplicite anche se si mandano solo fotografie del proprio volto.

lensa2

Stranamente non sembra esserci lo stesso problema per gli uomini: per loro vengono generate solitamente immagini in stile eroico o comunque ritratti normali. Potete farvene un'idea sfogliando i tweet che usano l'hashtag #lensaai.

lensa3
lensa4

Ma il problema più grave è che è possibile usare Lensa AI per generare immagini pornografiche realistiche di altre persone in modo pericolosamente semplice. Se si appiccica rozzamente, con Photoshop, il volto di una persona su immagini esplicite di un'altra, Lensa AI fonde perfettamente le due immagini.

Lensa AI usa una versione del software di intelligenza artificiale Stable Diffusion che è dotata di filtri che in teoria dovrebbero bloccare le immagini non adatte, ma a quanto risulta dai test effettuati dai ricercatori questi filtri vanno in tilt se si usa una serie appositamente confezionata di immagini.

Le immagini pornografiche false di celebrità o di persone comuni, usate spesso come strumenti di aggressione, bullismo o umiliazione, purtroppo non sono una novità, ma generarle prima richiedeva una notevole competenza nell'uso di programmi di fotoritocco e questo ne frenava la produzione e l'abuso. Ora, invece, grazie a Lensa AI questo ostacolo non esiste più: bastano un telefonino e pochi dollari.

Prisma Labs ha dichiarato che sta prendendo delle misure tecniche per risolvere questo problema, ma l'avvento generale di questi software di intelligenza artificiale sta creando un pantano etico che sta già spingendo alcuni governi, come per esempio quello britannico, a valutare leggi che criminalizzino la disseminazione di foto intime generate artificialmente senza consenso.

Nel frattempo è forse il caso di ridurre, se possibile, la quantità di fotografie dei nostri volti che mettiamo a disposizione di chiunque pubblicandole sui social network. L'intelligenza artificiale, purtroppo, non aiuta a contrastare la cattiveria naturale.

Fonte aggiuntiva: TechCrunch.

Se questo articolo ti è piaciuto e vuoi rimanere sempre informato con Zeus News ti consigliamo di iscriverti alla Newsletter gratuita. Inoltre puoi consigliare l'articolo utilizzando uno dei pulsanti qui sotto, inserire un commento (anche anonimo) o segnalare un refuso.
 

Paolo Attivissimo

(C) by Paolo Attivissimo - www.attivissimo.net.
Distribuzione libera, purché sia inclusa la presente dicitura.

Approfondimenti
La Biblioteca di Babele della IA
IA: ragionare usando i dati
Da Turing a Gpt-3, la lunga storia dell’Intelligenza artificiale
12 startup italiane nell'ascensore verso il futuro
Un sito per far sorridere i soggetti delle vecchie foto

Commenti all'articolo (4)

ecco qualcosa di potenzialmente utile usato in maniera totalmente stupida
25-3-2023 23:05

Ecco un altra cosa delle quale si può benissimo fare a meno... e si dovrebbe proprio farne a meno!
19-2-2023 10:38

visto che ottieni dei servizi gratis il minimo sindacale che tu debba concedere è quello ....
11-2-2023 19:05

Visto che molto probabilmente e' stato addestrato con le immagini che girano in rete, non c'e' da stupirsi. . Leggi tutto
11-2-2023 09:09

La liberta' di parola e' un diritto inviolabile, ma nei forum di Zeus News vige un regolamento che impone delle restrizioni e che l'utente e' tenuto a rispettare. I moderatori si riservano il diritto di cancellare o modificare i commenti inseriti dagli utenti, senza dover fornire giustificazione alcuna. Gli utenti non registrati al forum inoltre sono sottoposti a moderazione preventiva. La responsabilita' dei commenti ricade esclusivamente sui rispettivi autori. I principali consigli: rimani sempre in argomento; evita commenti offensivi, volgari, violenti o che inneggiano all'illegalita'; non inserire dati personali, link inutili o spam in generale.
E' VIETATA la riproduzione dei testi e delle immagini senza l'espressa autorizzazione scritta di Zeus News. Tutti i marchi e i marchi registrati citati sono di proprietà delle rispettive società. Informativa sulla privacy. I tuoi suggerimenti sono di vitale importanza per Zeus News. Contatta la redazione e contribuisci anche tu a migliorare il sito: pubblicheremo sui forum le lettere piu' interessanti.
Sondaggio
Immaginiamo un mondo popolato dalle auto di Google: senza pilota, senza sterzo e senza pedali. Qual è il maggior vantaggio? (vedi anche gli svantaggi)
Sarà più comodo viaggiare: non dovremo preoccuparci di guidare e avremo più tempo libero a disposizione.
Potranno spostarsi in auto anche i non vedenti, gli invalidi o in generale le persone non più in grado di guidare.
Si risparmierà carburante grazie all'ottimizzazione: niente accelerazioni o frenate brusche, rispetto dei limiti di velocità e così via.
Con il Gps incorporato ci si smarrirà di meno e non sarà necessario consultare mappe o chiedere indicazioni.
Ci sarà maggiore sicurezza e meno incidenti: niente ubriachi al volante o anziani non più in grado di guidare. Zero distrazioni, zero stanchezza, zero errori del conducente (causa del 90% degli incidenti).
Ci sarà meno traffico: potremo più facilmente condividere un'auto in car sharing che ci venga a prendere e ci porti dove desideriamo andare, trovando parcheggio da sola o rimettendosi a disposizione della comunità.
La casta dei tassisti non avrà più ragione di esistere e sarà finalmente azzerata.

Mostra i risultati (1950 voti)
Marzo 2025
Da Apple un iPhone sottilissimo e senza porta di ricarica
Il giorno che la IA si rifiutò di eseguire un comando
Seagate, la truffa dei dischi usati si fa più sofisticata
Stampanti HP, dopo l'update non funzionano neanche le cartucce originali
Il sistema open source compatibile con Windows
Western Digital dice addio agli SSD
Stampanti Brother, dopo l'aggiornamento le cartucce compatibili non vanno più
Gemini sbircia dalla videocamera del telefono
Forse Paragon ha intercettato anche Papa Francesco
Febbraio 2025
Seagate, si allarga il caso dei dischi usati venduti per nuovi
Gmail, addio agli SMS per l'autenticazione a due fattori
IA: era una bolla quella che è scoppiata
Majorana 1, il rivoluzionario chip quantistico di Microsoft
TIM, altri aumenti in vista
Musk + Cobol = cigno nero
Tutti gli Arretrati
Accadde oggi - 19 marzo


web metrics