UE, tutte le chat saranno esaminate in cerca di pedopornografia

WhatsApp, Telegram, Signal e soci dovranno sottoporre i messaggi privati degli utenti al giudizio della IA. Esperti di privacy in allarme.



[ZEUS News - www.zeusnews.it - 12-05-2022]

ue scansione messaggi pedopornografia csam whatsap

Meno di un anno fa, Apple annunciò che avrebbe inserito nei propri prodotti una funzionalità che, analizzando i contenuti dei dispositivi e confrontandoli con materiale pedopornografico noto (CSAM, Child Sexual Abuse Material), avrebbe dovuto consentire l'individuazione di quanti fanno traffico di questo genere di contenuti.

Subito si levarono le voci di quanti, pur condividendo il fine dichiarato da Apple, non potevano fare a meno di rilevare come in questo modo un'azienda privata ottenesse il diritto di curiosare all'interno dei dispositivi degli utenti, violando sistematicamente la privacy e, naturalmente, esponendo chiunque al rischio di diventare un "falso positivo".

La reazione fu talmente decisa che Apple tornò sui propri passi, e la cosa sembrò finire lì. Invece, l'idea deve essere piaciuta molto alla Commissione Europea, che ha avanzato una nuova proposta di regolamentazione comunitaria che riprende e rende ancora più invasiva la sorveglianza immaginata da Apple.

La proposta contiene tutta una serie di obblighi per i «fornitori di servizi online» e in particolare per quanti gestiscono i servizi di comunicazione e messaggistica, quali WhatsApp, Telegram, Signal e via di seguito.

In base alla proposta, dovrà essere condotta una scansione continua dei messaggi scambiati dagli utenti alla ricerca non soltanto di materiale pedopornografico noto - e quindi rilevato perché confrontato con un database esistente - ma anche di contenuti che gli algoritmi di machine learning potrebbero considerare come tale.

Anche il contenuto dei messaggi di testo sarà analizzato: l'algoritmo dovrà valutare se, in ogni conversazione, esistano per esempio gli estremi per un caso di adescamento di minore.

Se i riscontri saranno positivi, il sistema automatico avviserà le autorità della nazione in cui si trova l'utente sospettato, le quali potranno a quel punto emanare un «ordine di individuazione», che dovrà essere - spiega la Commissione - «mirato e specifico» per violare il meno possibile la privacy dei cittadini dell'Unione.

Nonostante le rassicurazioni, molti esperti di questioni legate a riservatezza e sorveglianza sono già in allarme: «È una vergognosa legge di sorveglianza indegna di una qualsiasi libera democrazia» ha commentato Jan Penfrat, di EDRi (European Digital Rights).

Il professore di crittografia Matthew Green ha rincarato la dose, affermando: «Questo documento è la cosa più spaventosa che abbia mai visto. Propone un nuovo sistema di sorveglianza di massa che leggerà i messaggi di testo privati, non per rilevare CSAM, ma per individuare l'"adescamento"».

Uno dei problemi della proposta - rileva Ella Jakubowska, di EDRi - è che gli ordini di cui parla la Commissione possono essere mirati, ma non c'è alcun obbligo in merito. «Lascia completamente spalancata la porta che conduce a una sorveglianza molto più generale».

Non dovrebbe nemmeno essere necessario spiegare come tutto ciò comporti inoltre la fine della crittografia end-to-end, non vietandola ma vanificandola: ed è facile prevedere che ciò accadrebbe a cascata in tutto il mondo, non soltanto nell'Unione Europea.

«Non esiste alcun modo per fare ciò che la proposta della UE vuol fare senza consentire ai governi di leggere ed esaminare i messaggi degli utenti su vastissima scala» spiega Joe Mullin, della Electronic Frontier Foundation. «Se diventasse legge, questa proposta sarebbe un disastro per la privacy non soltanto nella UE, ma in tutto il mondo».

È ancora Ella Jakubowska, infine, a sottolineare un ulteriore pericolo, che già era stato rilevato quand'era Apple a voler esaminare il contenuto di iPhone e iPad: quello, già citato, dei falsi positivi.

Allora, il pericolo poteva quantomeno considerarsi ridotto poiché il confronto delle immagini e dei video scovati sui dispositivi avveniva con materiale che sicuramente era definibile come pedopornografico. Nel caso della proposta della UE, invece, il giudizio spetta alla IA.

«Già c'è stato un sollevamento quando Apple suggeriva qualcosa di simile per trovare gli CSAM noti» spiega Jakubowska. «Se adesso aggiungiamo ambiguità e situazioni che dipendono dal contesto, in cui gli strumenti basati sulla IA sono notoriamente inaffidabili, le sfide diventano molto più grandi. Basta vedere quanto sono imprecisi i filtri antispam. Sono in circolazione da 20 anni, ma quanti ancora si trovano dello spam nelle caselle di posta e si vedono classificare come posta indesiderata email legittime? Già questo mostra tutti i limiti della tecnologia».

«L'intera proposta si basa su qualcosa di infattibile, se non proprio impossibile, dal punto di vista tecnico» conclude l'esperta di EDRi. E non si riesce a nascondere il sospetto che una motivazione nobile - la lotta alla pedopornografia - venga usata come grimaldello per far passare una sorveglianza pervasiva con ben altri scopi.

Se questo articolo ti è piaciuto e vuoi rimanere sempre informato con Zeus News ti consigliamo di iscriverti alla Newsletter gratuita. Inoltre puoi consigliare l'articolo utilizzando uno dei pulsanti qui sotto, inserire un commento (anche anonimo) o segnalare un refuso.
© RIPRODUZIONE RISERVATA

Approfondimenti
Moderatrice fa causa a TikTok per i video scioccanti che deve sorbirsi
WhatsApp, i messaggi crittografati non sono poi così privati
False dicotomie, reloaded
Gli iPhone scansioneranno tutte le foto alla ricerca di pedopornografia
Zitto zitto, il Parlamento Europeo vara la sorveglianza di massa di tutte le email
Google, un'intelligenza artificiale cancellerà la pedopornografia da Internet
Come usare Facebook senza commettere reati o incorrere in rischi legali
Spiava le persone attraverso le webcam dei Mac: bloccato e incriminato
In cella da 18 mesi perché non vuole rivelare una password
Sexting e minori, facile finire nei guai
Miniguida contro il sexting e le sue estorsioni
Nuovo furto di immagini intime
Google fa arrestare il pedofilo che usava Gmail
La sottile tentazione di smembrare Internet
Gli ISP europei contro i filtri sulla pedopornografia
Ragazzina 13enne inviava foto osé in cambio di ricariche
Arrestato per pedopornografia, era colpa di un virus
Arrestato per pedopornografia, dà la colpa al gatto
Il professore rovinato dalla caccia ai pedofili
La polizia ti perquisisce l'hard disk da remoto
Pedopornografia, arrestata quindicenne
Al check-in, attenti al notebook
Dodici arresti per pedofilia, ma servono nuove strategie
L'accordo antipedofilia non è perfetto
Decreto antipedofilia, nessuna panacea
Don Fortunato di Noto: "Sono per la libertà"
Non c'è bisogno della censura su Internet
Contro Bush che spia su Google
Yahoo contro la libertà di stampa

Commenti all'articolo (ultimi 5 di 15)

Dick non era articolato, era un universo tutto suo :mrgreen: Leggi tutto
16-5-2022 10:34

{utente anonimo}
Quanti catastrofisti tra le risposte. Sembra quasi che abbiate paura di essere sgamati per qualcosa. HMMMMMMMMMMMMMMMM
16-5-2022 10:27

Mi torna in mente la faccia di Tom Cruise, che ha prestato il suo faccione per un film fantascientifico e poliziesco in cui in un futuro, si arrestavano i criminali prima di commettere i delitti, ed il nostro eroe cinematico apparteneva appunto a questo corpo di polizia chiamato per comoda brevità precremine. La gente veniva arrestata... Leggi tutto
15-5-2022 18:05

E non solo, da lì a diventare il mostro da sbattere in prima pagina il passo è assai breve e, come sempre accade, la riabilitazione, in caso di macroscopico errore come solo una IA può generare, è certamente un'utopia da non prendere neppure in considerazione. Leggi tutto
15-5-2022 14:46

Proposta aberrante e vergognosa indegna di una democrazia anche minimamente evoluta come la UE si vuole dichiarare. Francamente la pendenza della china di discesa di questa istituzione è oramai una picchiata verso un baratro senza fondo... :umpf:
15-5-2022 14:43

La liberta' di parola e' un diritto inviolabile, ma nei forum di Zeus News vige un regolamento che impone delle restrizioni e che l'utente e' tenuto a rispettare. I moderatori si riservano il diritto di cancellare o modificare i commenti inseriti dagli utenti, senza dover fornire giustificazione alcuna. Gli utenti non registrati al forum inoltre sono sottoposti a moderazione preventiva. La responsabilita' dei commenti ricade esclusivamente sui rispettivi autori. I principali consigli: rimani sempre in argomento; evita commenti offensivi, volgari, violenti o che inneggiano all'illegalita'; non inserire dati personali, link inutili o spam in generale.
E' VIETATA la riproduzione dei testi e delle immagini senza l'espressa autorizzazione scritta di Zeus News. Tutti i marchi e i marchi registrati citati sono di proprietà delle rispettive società. Informativa sulla privacy. I tuoi suggerimenti sono di vitale importanza per Zeus News. Contatta la redazione e contribuisci anche tu a migliorare il sito: pubblicheremo sui forum le lettere piu' interessanti.
Sondaggio
Qual è il tuo approccio nei confronti del navigatore satellitare?
Mi affido al navigatore solo in caso di necessità.
Sono diffidente e non mi baso totalmente sulle indicazioni del dispositivo.
Non mi metto al volante prima di aver acceso il magico schermo.
Non ne ho mai avuto uno.
Preferisco fermarmi a chiedere informazioni ai passanti.
Non mi interessano le indicazioni: in fondo a volte è bello anche basarmi sul mio istinto e nel caso sbagliare strada.

Mostra i risultati (3561 voti)
Maggio 2022
Migliaia di siti sono keylogger nascosti
Radio a onde corte: davvero?
UE, tutte le chat saranno esaminate in cerca di pedopornografia
Le IA di Facebook e Twitter contro la disinformazione russa
Apple, Google e Microsoft svelano il sistema che eliminerà le password
Una storia di phishing bancario diversa dal solito: il ladro beffato
Aprile 2022
Una dura lezione dall'Internet delle Cose
Bug nell'app Messaggi, e la batteria si scarica in fretta
Gli USA ottengono l'estradizione di Assange
L'utility che ripulisce Windows 11 è in realtà un trojan
Hacker cinesi sfruttano VLC per diffondere malware
Quando l'intelligenza artificiale bara: l'aneddoto degli husky scambiati per lupi
Che si fa con Telegram? È russo
Lapsus$, arrestati due hacker: sono adolescenti
Registro delle Opposizioni e cellulari, la norma è in Gazzetta Ufficiale
Tutti gli Arretrati
Accadde oggi - 19 maggio


web metrics