Lensa AI, avatar personali bellissimi ma a rischio



[ZEUS News - www.zeusnews.it - 10-02-2023]

lensa ai1

Moltissime persone stanno usando la funzione Magic Avatar dell'app Lensa AI per crearsi dei ritratti personali digitali stilizzati, da usare per esempio come immagini dei profili social ma anche per puro divertimento, e i risultati sono davvero notevoli. Gli incassi della casa produttrice, Prisma Labs, ammontano già a svariati milioni di dollari.

Ma per usare Lensa AI bisogna affidare a quest'azienda una decina di foto del proprio volto, quindi una serie di dati biometrici sensibili. Pertanto sarebbe opportuno leggere l'informativa sulla riservatezza dei dati e le condizioni d'uso per scoprire che fine fanno queste foto: vengono depositate temporaneamente sui server dell'azienda, che si trovano negli Stati Uniti, e cancellate subito dopo la generazione degli avatar corrispondenti. Così dice Andrey Usoltsev, CEO e cofondatore di Prisma Labs.

Il problema è che oltre alle vostre foto, Lensa AI acquisisce molte altre informazioni personali "a scopo di marketing", come per esempio (sezione 3 delle condizioni d'uso) che tipo di smartphone usate, il vostro indirizzo IP e soprattutto i dati di tracciamento pubblicitario raccolti dai principali operatori del settore, ossia i cosiddetti IDFA di Apple o gli Android Advertising ID di Google, che possono essere poi ceduti o rivenduti ad altre società.

Potete disabilitare questa raccolta di dati andando nelle apposite impostazioni di iOS o di Android e seguendo le istruzioni fornite nell'informativa di Lensa AI.

Ci sono anche alcune precauzioni che riguardano in particolare i bambini e le donne: mandare a Lensa AI immagini di bambini è contrario alle condizioni d'uso e produce risultati che mi limito a definire inquietanti. Per le donne, invece, Lensa AI ha una spiccata tendenza a generare immagini fortemente sessualizzate: l'app spesso genera nudi integrali e pose molto esplicite anche se si mandano solo fotografie del proprio volto.

lensa2

Stranamente non sembra esserci lo stesso problema per gli uomini: per loro vengono generate solitamente immagini in stile eroico o comunque ritratti normali. Potete farvene un'idea sfogliando i tweet che usano l'hashtag #lensaai.

lensa3
lensa4

Ma il problema più grave è che è possibile usare Lensa AI per generare immagini pornografiche realistiche di altre persone in modo pericolosamente semplice. Se si appiccica rozzamente, con Photoshop, il volto di una persona su immagini esplicite di un'altra, Lensa AI fonde perfettamente le due immagini.

Lensa AI usa una versione del software di intelligenza artificiale Stable Diffusion che è dotata di filtri che in teoria dovrebbero bloccare le immagini non adatte, ma a quanto risulta dai test effettuati dai ricercatori questi filtri vanno in tilt se si usa una serie appositamente confezionata di immagini.

Le immagini pornografiche false di celebrità o di persone comuni, usate spesso come strumenti di aggressione, bullismo o umiliazione, purtroppo non sono una novità, ma generarle prima richiedeva una notevole competenza nell'uso di programmi di fotoritocco e questo ne frenava la produzione e l'abuso. Ora, invece, grazie a Lensa AI questo ostacolo non esiste più: bastano un telefonino e pochi dollari.

Prisma Labs ha dichiarato che sta prendendo delle misure tecniche per risolvere questo problema, ma l'avvento generale di questi software di intelligenza artificiale sta creando un pantano etico che sta già spingendo alcuni governi, come per esempio quello britannico, a valutare leggi che criminalizzino la disseminazione di foto intime generate artificialmente senza consenso.

Nel frattempo è forse il caso di ridurre, se possibile, la quantità di fotografie dei nostri volti che mettiamo a disposizione di chiunque pubblicandole sui social network. L'intelligenza artificiale, purtroppo, non aiuta a contrastare la cattiveria naturale.

Fonte aggiuntiva: TechCrunch.

Se questo articolo ti è piaciuto e vuoi rimanere sempre informato con Zeus News ti consigliamo di iscriverti alla Newsletter gratuita. Inoltre puoi consigliare l'articolo utilizzando uno dei pulsanti qui sotto, inserire un commento (anche anonimo) o segnalare un refuso.
 

Paolo Attivissimo

(C) by Paolo Attivissimo - www.attivissimo.net.
Distribuzione libera, purché sia inclusa la presente dicitura.

Approfondimenti
La Biblioteca di Babele della IA
IA: ragionare usando i dati
Da Turing a Gpt-3, la lunga storia dell’Intelligenza artificiale
12 startup italiane nell'ascensore verso il futuro
Un sito per far sorridere i soggetti delle vecchie foto

Commenti all'articolo (4)

ecco qualcosa di potenzialmente utile usato in maniera totalmente stupida
25-3-2023 23:05

Ecco un altra cosa delle quale si può benissimo fare a meno... e si dovrebbe proprio farne a meno!
19-2-2023 10:38

visto che ottieni dei servizi gratis il minimo sindacale che tu debba concedere è quello ....
11-2-2023 19:05

Visto che molto probabilmente e' stato addestrato con le immagini che girano in rete, non c'e' da stupirsi. . Leggi tutto
11-2-2023 09:09

La liberta' di parola e' un diritto inviolabile, ma nei forum di Zeus News vige un regolamento che impone delle restrizioni e che l'utente e' tenuto a rispettare. I moderatori si riservano il diritto di cancellare o modificare i commenti inseriti dagli utenti, senza dover fornire giustificazione alcuna. Gli utenti non registrati al forum inoltre sono sottoposti a moderazione preventiva. La responsabilita' dei commenti ricade esclusivamente sui rispettivi autori. I principali consigli: rimani sempre in argomento; evita commenti offensivi, volgari, violenti o che inneggiano all'illegalita'; non inserire dati personali, link inutili o spam in generale.
E' VIETATA la riproduzione dei testi e delle immagini senza l'espressa autorizzazione scritta di Zeus News. Tutti i marchi e i marchi registrati citati sono di proprietà delle rispettive società. Informativa sulla privacy. I tuoi suggerimenti sono di vitale importanza per Zeus News. Contatta la redazione e contribuisci anche tu a migliorare il sito: pubblicheremo sui forum le lettere piu' interessanti.
Sondaggio
Una donna è stata querelata per una recensione negativa di un ristorante scritta su Trip Advisor. Quale di queste affermazioni trovi più vicina al tuo pensiero?
Non è giusto che un'opinione scritta su Internet sia considerata pari a un articolo su un giornale. Bisogna rivedere al più presto le leggi sulla difesa dell'onore e sulla diffamazione.
E' giusto che anche sui forum o su Facebook o sui siti di recensioni si applichino le leggi relative alla diffamazione. Un'opinione negativa può rovinare la reputazione di un locale.
Gli utenti devono poter esprimere con la massima libertà la propria opinione su ristoranti, alberghi, ma anche prodotti o servizi acquistati. Un'opinione negativa non dovrebbe essere considerata diffamazione.
Trovo che oggi più che mai sia necessario prestare la massima attenzione a quello che si scrive online.
Le recensioni su Internet sono in gran parte inaffidabili: quelle positive sono scritte dai proprietari, quelle negative dalla concorrenza. In ogni caso l'opinione dei pochi singoli onesti non è significativa.
Vorrei dire la mia sul forum di Zeus News ma temo che prima dovrei procurarmi un buon avvocato, non si sa mai.

Mostra i risultati (4169 voti)
Febbraio 2025
Windows 11, Microsoft rimuove le istruzioni per aggirare i requisiti
Gennaio 2025
Da Logitech il radar per sorvegliare gli impiegati in ufficio
DeepSeek, la IA cinese che fa tremare le aziende occidentali
Intelligenza artificiale usata bene
Google Maps diventa meno ficcanaso
Windows 11 24H2, iniziano le installazioni automatiche
Windows 10, il nuovo Outlook si installa a forza
WEF: in cinque anni la IA si prenderà il vostro lavoro
L'Unione Europea multa sé stessa
L'accordo Meloni-Musk
Insieme a Vodafone, Fastweb sorpassa Tim
Dicembre 2024
L'utilità che rivela i drive USB farlocchi
Le modalità di utilizzo dei dati personali
Il Governo vuole regolare per legge le recensioni online dei ristoranti
ChatGPT Search ora è disponibile per tutti
Tutti gli Arretrati
Accadde oggi - 7 febbraio


web metrics