Foto di Jakob Owens.

Android sta per introdurre un nuovo meccanismo di classificazione locale delle immagini che permette alle applicazioni di chiedere al sistema operativo di analizzare contenuti potenzialmente sensibili direttamente sul dispositivo. La funzione, chiamata ContentSafetyManager, compare nella documentazione tecnica aggiornata ad agosto 2026 e segna un ampliamento significativo delle capacità di sicurezza integrate nella piattaforma, ma costituisce anche una buona preoccupazione per la privacy.

La novità si inserisce nel percorso avviato con SafetyCore, componente distribuito da Google sui dispositivi con Android 9 e versioni successive. SafetyCore aveva attirato critiche quando molti utenti lo avevano trovato installato senza richiesta esplicita. La descrizione "scansione dei contenuti" aveva alimentato interpretazioni eccessive rispetto al suo reale funzionamento, che si limitava a classificazioni locali per funzioni specifiche come gli avvisi sui contenuti sensibili. Il nuovo pacchetto android.app.contentsafety introduce classi come ClassifiableContent, ContentClassificationResult e ContentSafetyManager, delineando una API completa attraverso la quale un'app può sottoporre un contenuto al servizio di sicurezza configurato sul dispositivo. Il metodo centrale restituisce uno dei quattro risultati previsti: TYPE_ALLOWED, TYPE_WARNING, TYPE_BLOCKED oppure TYPE_UNCLASSIFIED, quest'ultimo utilizzato quando la classificazione non può essere eseguita o quando la funzione risulta disabilitata.

La documentazione mostra ancora il livello API 10000, valore utilizzato nelle versioni di sviluppo della piattaforma prima dell'assegnazione definitiva. Ciò indica che le nuove funzioni non sono ancora disponibili per le applicazioni presenti oggi sul Play Store, ma rappresentano una base tecnica destinata a diventare parte del sistema operativo nelle versioni future. La classificazione locale non concede automaticamente l'accesso ai file dell'utente. Un'app non può richiamare ContentSafetyManager e ottenere tutte le immagini presenti nella galleria: deve già possedere un permesso legittimo per accedere al contenuto che intende analizzare. In altre parole: non è automatico, ma nemmeno impossibile. D'altra parte, Android ha progressivamente ristretto questi accessi con meccanismi come Scoped Storage, Photo Picker e permessi granulari, che impediscono alle applicazioni di attraversare indiscriminatamente lo spazio di archiviazione condiviso. Il selettore fotografico, ad esempio, consente all'utente di concedere accesso solo alle immagini selezionate.

Questo limite dovrebbe impedire eventuali abusi. Un'app malevola con ampi privilegi potrebbe classificare molti contenuti, ma il problema principale sarebbe il possesso stesso di tali privilegi. ContentSafetyManager può facilitare la categorizzazione locale, ma non aggira il modello delle autorizzazioni di Android. La sicurezza dipende quindi dal controllo dei permessi, non dalla presenza della nuova API. Google afferma inoltre che SafetyCore esegue la classificazione sul dispositivo e non invia ai propri server né il contenuto né il risultato. L'elaborazione locale esclude dunque il percorso verso Google, ma chiaramente non garantisce che l'app chiamante gestisca i dati in modo sicuro: se Android non informa i suoi creatori di quel che ha trovato, potrebbe comunque farlo l'app. Se un'app possiede accesso a un'immagine, infatti, può trattarla secondo le autorizzazioni concesse e le proprie logiche interne, nei limiti imposti dal sistema operativo e dalle policy dello store.

Articoli suggeriti:

Le rane bollite vanno al mare

Indifferenza

Chat Control passa a Strasburgo: crittografia salva

Quousque tandem abutere, Ursula, patientia nostra?

Resta ancora da chiarire quali applicazioni potranno utilizzare realmente l'API, quali controlli accompagneranno le richieste e quali categorie saranno supportate. La trasparenza delle impostazioni per l'utente sarà un elemento decisivo. Inoltre, Google avverte che i meccanismi basati su Sensitive Content Warnings possono generare falsi positivi e falsi negativi: immagini innocue potrebbero essere classificate come sensibili e viceversa. Un risultato TYPE_BLOCKED non rappresenta insomma una prova definitiva sulla natura del file.

La presenza di un classificatore locale richiama il dibattito europeo sul cosiddetto Chat Control. Il regolamento UE 2021/1232 consente già ai fornitori di servizi di comunicazione di utilizzare volontariamente tecnologie per individuare materiale relativo ad abusi CSAM. ContentSafetyManager non nasce come strumento di scansione generalizzata e non esistono indicazioni che Google intenda utilizzarlo per analizzare in massa fotografie o conversazioni ma, una volta che esso è in posizione, la situazione potrebbe sempre cambiare.

L'aspetto rilevante è infatti tecnico: Android sta costruendo un'infrastruttura standard per classificare contenuti direttamente sul dispositivo. In futuro un'app potrebbe consegnare un contenuto al sistema e ricevere un risultato - allowed (immagine consentita), warning (immagine che potrebbe essere problematica) o blocked (immagine bloccata) - senza incorporare un proprio modello di riconoscimento. Si apre così la strada a forme di client-side scanning che non richiedono di spezzare la crittografia end-to-end, perché il contenuto può essere analizzato quando è ancora in chiaro sul dispositivo, prima dell'invio o dopo la ricezione. La preoccupazione riguarda dunque il possibile ampliamento progressivo delle finalità. Oggi SafetyCore serve, tra le altre cose, a riconoscere immagini con possibile nudità in Google Messaggi, e Google afferma che contenuti e risultati non raggiungono i propri server. Una API generalizzata rende però tecnicamente più semplice estendere la classificazione ad altre categorie. Non significa che tale evoluzione sia prevista, ma il sistema operativo dispone ora di una base tecnica che rende la questione molto più concreta.

Non perderti anche:

Tecnocontrollo, guerra e UE

Chat Control, l'Europa va avanti. Sventato per ora l'obbligo di scansion...

ChatControl abbandonato, arriva il compromesso danese. Scansione dei contenuti n...

Alle soglie di un vero e proprio esperimento di controllo sociale