I testi generati dai modelli di intelligenza artificiale non saranno più anonimi: verranno contrassegnati da una firma digitale invisibile, incorporata direttamente nelle parole scelte dal modello. È la conseguenza dell'entrata in vigore dell'articolo 50 dell'AI Act europeo, che impone ai fornitori di sistemi generativi di rendere riconoscibili i contenuti prodotti dall'IA. Anthropic e OpenAI hanno già annunciato l'adozione di sistemi di marcatura che permetteranno di identificare quando un testo o un file è stato elaborato da un modello linguistico.

La normativa richiede che i contenuti sintetici siano marcati in modo leggibile dalle macchine e riconoscibili come generati o manipolati dall'IA. Anthropic ha spiegato che la firma digitale sarà applicata a tutti i testi prodotti dai modelli lanciati dopo il 2 agosto (data di entrata in vigore dell'AI Act) e che verrà estesa anche ai modelli precedenti entro il 2 dicembre 2026, periodo transitorio previsto dall'AI Omnibus. La marcatura sarà attiva su Claude Platform, Claude, Claude Code, Claude Cowork, Claude Tag e su tutte le piattaforme esterne che supportano la funzione. La firma digitale non sarà inserita nei metadati, ma direttamente nel testo, attraverso una selezione statistica dei token generati dal modello. Anthropic ha precisato che la marcatura è «impercepibile e parte del testo stesso», e che non può essere rimossa con un semplice copia-incolla. La struttura che incorpora il watermark viene infatti riprodotta insieme alle parole, rendendo il contrassegno resistente alle operazioni di formattazione e alle conversioni in testo semplice.

Per i file generati dai modelli, come immagini nei formati SVG, PNG o JPEG, Anthropic applicherà metadati firmati digitalmente secondo lo standard C2PA, sviluppato dalla Coalition for Content Provenance and Authenticity. Questi metadati permetteranno di verificare che un file sia stato elaborato dal modello e di rilevare eventuali modifiche successive. L'azienda ha chiarito che la disponibilità della marcatura dipenderà dalle funzionalità offerte dalle piattaforme cloud che ospitano i modelli. Anthropic ha dichiarato che metterà a disposizione un rilevatore per identificare la presenza dei watermark incorporati nei testi. Tuttavia, ha anche evidenziato alcune limitazioni: la presenza del watermark indica che il contenuto è passato attraverso Claude, ma non certifica che il modello ne sia l'autore originale. L'etichetta viene applicata anche quando il testo proviene da una fonte esterna e viene rielaborato dal modello. Inoltre, modifiche estese, traduzioni o riscritture possono eliminare il segnale.

L'assenza del watermark non garantisce che il contenuto non sia stato generato dall'IA. Anthropic ha spiegato che il contrassegno potrebbe non essere presente quando il testo è stato pesantemente modificato, quando i metadati di un file sono stati rimossi tramite conversione o salvataggio ripetuto, oppure quando il contenuto è stato prodotto tramite piattaforme che non supportano la marcatura. La società ha invitato alla cautela nell'interpretazione dei segnali, definendoli «indizi tecnici e non un giudice automatico di autenticità». OpenAI sta lavorando a un sistema analogo, spinta dalle stesse norme europee. La marcatura sarà applicata globalmente, non solo nell'Unione europea, poiché i modelli vengono distribuiti su piattaforme internazionali.

Non perderti anche:

L'UE impone etichette ai contenuti IA realistici

EUROPA, il progetto UE per un modello IA da 400 miliardi di parametri

Contenuti generati dall'IA: il Codice UE definisce marcatura, icone e respon...

Mistral vuole la tassa sull'IA

La marcatura dei contenuti generati dall'IA rappresenta uno dei primi effetti concreti dell'AI Act, che mira a garantire trasparenza, tracciabilità e sicurezza nell'uso dei sistemi generativi. L'obbligo riguarda testi, immagini, audio e video sintetici, e richiede soluzioni tecniche robuste, interoperabili e affidabili. Le aziende devono assicurare che la marcatura sia efficace e che non comprometta la qualità o la leggibilità dei contenuti. La scelta di incorporare la firma direttamente nel testo risponde alla necessità di evitare manipolazioni semplici, come la rimozione dei metadati. Anthropic ha spiegato che il watermark è progettato per resistere a copie, incolli e modifiche minori, pur non alterando il significato o la struttura del contenuto.

L'adozione dei watermark invisibili segna un cambiamento significativo nel modo in cui i contenuti generati dall'IA verranno riconosciuti e gestiti. Le aziende stanno adeguando i propri sistemi per rispettare le nuove norme, mentre gli utenti dovranno familiarizzare con strumenti di rilevazione e con le implicazioni della marcatura. La misura non risolve completamente il problema dell'attribuzione, ma introduce un livello di trasparenza che finora mancava nei sistemi generativi.

Ti raccomandiamo anche:

Il Digital Omnibus è una resa dell'Unione Europea?

Ricerche di lavoro e IA: smascherare i recruiter con la ricetta di un flan

Italia prima in UE con la legge sulla IA: recepisce l'AI Act europeo adattan...

Da Adobe un bollino per identificare le immagini generate dalla IA