Google ha reso pubblico SynthID Detector, il portale che consente di verificare se immagini, video e file audio contengono la filigrana digitale invisibile applicata dai sistemi di intelligenza artificiale compatibili con la tecnologia SynthID. L'obiettivo è offrire uno strumento pratico per distinguere i contenuti generati artificialmente da quelli autentici in un contesto in cui la quantità di materiale prodotto dall'IA continual'azienda a crescere a ritmi senza precedenti. Il servizio rappresenta l'evoluzione di una tecnologia presentata già nel 2023 e successivamente estesa a immagini, video, audio e testi. Dopo una fase iniziale riservata a giornalisti, ricercatori e professionisti dei media, Google ha deciso di rendere il sistema disponibile a livello globale, permettendo a chiunque di caricare un file e verificarne la presenza di marcature SynthID.

Il principio di funzionamento è differente rispetto ai tradizionali metadati. La filigrana non viene semplicemente aggiunta come informazione allegata al file, ma incorporata direttamente nel contenuto. Nel caso delle immagini, il sistema modifica in modo matematicamente controllato e impercettibile alcuni valori dei pixel; per l'audio interviene sulla rappresentazione del segnale sonoro; per i video la marcatura viene applicata ai singoli fotogrammi. L'utente non percepisce alcuna differenza visiva o sonora, ma gli strumenti di verifica possono rilevare la presenza della firma digitale.

Uno degli aspetti più rilevanti è che SynthID non dipende da uno specifico modello generativo. La tecnologia può essere adottata da aziende differenti e applicata a contenuti creati da varie piattaforme di generazione, senza modificare il funzionamento interno dei modelli stessi. Proprio per questo, negli ultimi mesi sono stati annunciati accordi con partner come OpenAI, NVIDIA e altre realtà del settore interessate ad adottare sistemi di marcatura compatibili. Il nuovo portale supporta una lunga lista di formati. Per le immagini sono accettati JPG, JPEG, PNG, BMP, WEBP, AVIF, HEIC, HEIF, TIFF, TIF e GIF. Per i video sono previsti MP4, MOV e WEBM. L'analisi audio comprende invece WAV, MP3, OGG, FLAC, AAC e M4A. Il sistema effettua una scansione del contenuto e, quando individua la filigrana, restituisce un'indicazione della presenza del marchio digitale e delle aree nelle quali è stato rilevato con maggiore probabilità.

Google sostiene che la robustezza della filigrana sia uno dei punti di forza della tecnologia. La marcatura è stata progettata per sopravvivere a operazioni comuni come compressione, ridimensionamento, applicazione di filtri e acquisizione tramite schermata. Secondo la documentazione ufficiale, il sistema è stato sviluppato assumendo fin dall'inizio che terzi avrebbero tentato di aggirarlo o rimuoverlo. In un test indipendente effettuato da Ars Technica, la filigrana SynthID è rimasta rilevabile perfino dopo 300 cicli consecutivi di compressione e ridimensionamento dell'immagine. I file risultavano ormai fortemente degradati dal punto di vista visivo, ma il sistema continuava a riconoscere la presenza del watermark. Anche gli screenshot hanno conservato la marcatura, poiché essi mantengono i pixel modificati dall'algoritmo originario.

Sullo stesso tema:

Astra piace a tutti, OpenAI sospende gli abbonamenti più costosi

Anthropic spiega come funziona il watermark nei testi generati dalla IA

I colossi dell'IA distruggono milioni di libri per alimentare i loro modelli

Debito tecnologico e collasso dello slopware

I limiti emergono quando il contenuto viene alterato in modo più aggressivo. Nelle prove pubblicate da Ars Technica, la rimozione di circa il 20% dell'immagine ha reso il watermark non più rilevabile dopo lunghi cicli di trasformazione. Tagli ancora più ampi hanno compromesso l'identificazione in tempi più rapidi. Lo stesso Google d'altra parte non presenta SynthID come una soluzione definitiva contro la disinformazione. Nella documentazione tecnica originale viene specificato che il sistema non è stato progettato per resistere a ogni possibile attacco intenzionale. Inoltre, Google non ha pubblicato una descrizione completa del decoder utilizzato per individuare le filigrane, rendendo difficile una valutazione indipendente completa da parte della comunità scientifica o di enti terzi.

Un altro problema riguarda la frammentazione dell'ecosistema. Sebbene diverse aziende abbiano adottato la tecnologia SynthID, le filigrane utilizzate non sono necessariamente interoperabili: il rilevatore di Google potrebbe quindi non riconoscere le marcature impiegate da altre piattaforme e viceversa. Ciò significa che l'assenza di una filigrana rilevata non costituisce automaticamente una prova che un contenuto sia autentico o creato da un essere umano. La questione diventa ancora più complessa considerando la diffusione dei modelli aperti. Come ha dichiarato Adam Rose dello Starling Lab: «Il problema più grande non sono soltanto le immagini prodotte dai Google e dagli OpenAI del mondo. Il problema sono le persone che possono eseguire i propri modelli e fare tutto sui loro computer». La disponibilità di modelli liberamente distribuibili implica che una parte significativa dei contenuti generati dall'IA potrebbe non essere mai accompagnata da alcuna filigrana.

Per questo motivo alcuni ricercatori ritengono che, nel lungo termine, possano risultare altrettanto importanti sistemi di provenienza dei contenuti come lo standard C2PA. A differenza delle filigrane invisibili, questi meccanismi puntano a certificare l'origine di fotografie e video autentici mediante metadati verificabili crittograficamente. Secondo gli esperti citati nell'analisi, potrebbe rivelarsi più efficace dimostrare che un contenuto è genuino piuttosto che tentare di identificare ogni possibile contenuto sintetico presente in rete. L'apertura pubblica di SynthID Detector rappresenta comunque un passo significativo verso una maggiore trasparenza nel settore dell'intelligenza artificiale generativa. Lo strumento offre finalmente un sistema accessibile per verificare una parte dei contenuti prodotti dalle moderne piattaforme IA, ma evidenzia anche una realtà sempre più chiara: nessun singolo strumento sarà sufficiente a distinguere in modo affidabile tutto ciò che è autentico da ciò che è stato creato artificialmente.

Sullo stesso tema:

Oscar 2027, l'Academy vieta attori e sceneggiature generati dall'intelli...

Il video generato dalla IA con Brad Pitt e Tom Cruise che sta facendo tremare gl...

Il CEO di Microsoft sulla IA: basta parlare di "slop". 2026 sarà l'anno...

YouTube spegne la monetizzazione ai video spazzatura generati dalle IA