Meno di un anno fa, Apple annunciò che avrebbe inserito nei propri prodotti una funzionalità che, analizzando i contenuti dei dispositivi e confrontandoli con materiale pedopornografico noto (CSAM, Child Sexual Abuse Material), avrebbe dovuto consentire l'individuazione di quanti fanno traffico di questo genere di contenuti.

Subito si levarono le voci di quanti, pur condividendo il fine dichiarato da Apple, non potevano fare a meno di rilevare come in questo modo un'azienda privata ottenesse il diritto di curiosare all'interno dei dispositivi degli utenti, violando sistematicamente la privacy e, naturalmente, esponendo chiunque al rischio di diventare un "falso positivo".

La reazione fu talmente decisa che Apple tornò sui propri passi, e la cosa sembrò finire lì. Invece, l'idea deve essere piaciuta molto alla Commissione Europea, che ha avanzato una nuova proposta di regolamentazione comunitaria che riprende e rende ancora più invasiva la sorveglianza immaginata da Apple.

La proposta contiene tutta una serie di obblighi per i «fornitori di servizi online» e in particolare per quanti gestiscono i servizi di comunicazione e messaggistica, quali WhatsApp, Telegram, Signal e via di seguito.

Proposte di lettura:

Telegram Premium è realtà

Moderatrice fa causa a TikTok per i video scioccanti che deve sorbirsi

WhatsApp, i messaggi crittografati non sono poi così privati

False dicotomie, reloaded

In base alla proposta, dovrà essere condotta una scansione continua dei messaggi scambiati dagli utenti alla ricerca non soltanto di materiale pedopornografico noto - e quindi rilevato perché confrontato con un database esistente - ma anche di contenuti che gli algoritmi di machine learning potrebbero considerare come tale.

Anche il contenuto dei messaggi di testo sarà analizzato: l'algoritmo dovrà valutare se, in ogni conversazione, esistano per esempio gli estremi per un caso di adescamento di minore.

Articoli raccomandati:

Gli iPhone scansioneranno tutte le foto alla ricerca di pedopornografia

Zitto zitto, il Parlamento Europeo vara la sorveglianza di massa di tutte le ema...

Google, un'intelligenza artificiale cancellerà la pedopornografia da In...

Come usare Facebook senza commettere reati o incorrere in rischi legali

Se i riscontri saranno positivi, il sistema automatico avviserà le autorità della nazione in cui si trova l'utente sospettato, le quali potranno a quel punto emanare un «ordine di individuazione», che dovrà essere - spiega la Commissione - «mirato e specifico» per violare il meno possibile la privacy dei cittadini dell'Unione.

Nonostante le rassicurazioni, molti esperti di questioni legate a riservatezza e sorveglianza sono già in allarme: «È una vergognosa legge di sorveglianza indegna di una qualsiasi libera democrazia» ha commentato Jan Penfrat, di EDRi (European Digital Rights).

Il professore di crittografia Matthew Green ha rincarato la dose, affermando: «Questo documento è la cosa più spaventosa che abbia mai visto. Propone un nuovo sistema di sorveglianza di massa che leggerà i messaggi di testo privati, non per rilevare CSAM, ma per individuare l'"adescamento"».

Articoli suggeriti:

Spiava le persone attraverso le webcam dei Mac: bloccato e incriminato

In cella da 18 mesi perché non vuole rivelare una password

Sexting e minori, facile finire nei guai

Miniguida contro il sexting e le sue estorsioni

Uno dei problemi della proposta - rileva Ella Jakubowska, di EDRi - è che gli ordini di cui parla la Commissione possono essere mirati, ma non c'è alcun obbligo in merito. «Lascia completamente spalancata la porta che conduce a una sorveglianza molto più generale».

Non dovrebbe nemmeno essere necessario spiegare come tutto ciò comporti inoltre la fine della crittografia end-to-end, non vietandola ma vanificandola: ed è facile prevedere che ciò accadrebbe a cascata in tutto il mondo, non soltanto nell'Unione Europea.

«Non esiste alcun modo per fare ciò che la proposta della UE vuol fare senza consentire ai governi di leggere ed esaminare i messaggi degli utenti su vastissima scala» spiega Joe Mullin, della Electronic Frontier Foundation. «Se diventasse legge, questa proposta sarebbe un disastro per la privacy non soltanto nella UE, ma in tutto il mondo».

Non perderti anche:

Nuovo furto di immagini intime

Google fa arrestare il pedofilo che usava Gmail

La sottile tentazione di smembrare Internet

Gli ISP europei contro i filtri sulla pedopornografia

È ancora Ella Jakubowska, infine, a sottolineare un ulteriore pericolo, che già era stato rilevato quand'era Apple a voler esaminare il contenuto di iPhone e iPad: quello, già citato, dei falsi positivi.

Allora, il pericolo poteva quantomeno considerarsi ridotto poiché il confronto delle immagini e dei video scovati sui dispositivi avveniva con materiale che sicuramente era definibile come pedopornografico. Nel caso della proposta della UE, invece, il giudizio spetta alla IA.

«Già c'è stato un sollevamento quando Apple suggeriva qualcosa di simile per trovare gli CSAM noti» spiega Jakubowska. «Se adesso aggiungiamo ambiguità e situazioni che dipendono dal contesto, in cui gli strumenti basati sulla IA sono notoriamente inaffidabili, le sfide diventano molto più grandi. Basta vedere quanto sono imprecisi i filtri antispam. Sono in circolazione da 20 anni, ma quanti ancora si trovano dello spam nelle caselle di posta e si vedono classificare come posta indesiderata email legittime? Già questo mostra tutti i limiti della tecnologia».

Leggi anche:

Ragazzina 13enne inviava foto osé in cambio di ricariche

Arrestato per pedopornografia, era colpa di un virus

Arrestato per pedopornografia, dà la colpa al gatto

Il professore rovinato dalla caccia ai pedofili

«L'intera proposta si basa su qualcosa di infattibile, se non proprio impossibile, dal punto di vista tecnico» conclude l'esperta di EDRi. E non si riesce a nascondere il sospetto che una motivazione nobile - la lotta alla pedopornografia - venga usata come grimaldello per far passare una sorveglianza pervasiva con ben altri scopi.

Per approfondire:

La polizia ti perquisisce l'hard disk da remoto

Pedopornografia, arrestata quindicenne

Al check-in, attenti al notebook

Dodici arresti per pedofilia, ma servono nuove strategie

Leggi anche:

L'accordo antipedofilia non è perfetto

Decreto antipedofilia, nessuna panacea

Don Fortunato di Noto: "Sono per la libertà"

Non c'è bisogno della censura su Internet