Immagine: Anthropic

Anthropic ha spiegato un po' meglio in che cosa consista il watermark applicato ai testi generati dai modelli Claude, un sistema di marcatura invisibile che non altera il contenuto, non introduce caratteri nascosti e non aumenta il costo di generazione. Un documento tecnico descrive il funzionamento del meccanismo, confermando che un testo marcato è indistinguibile da uno privo di watermark e che la marcatura non influisce sulla qualità percepita.

Il "watermark" interviene nel processo di selezione delle parole. Un modello linguistico sceglie ogni parola fra più alternative plausibili, e in molti casi la decisione è a bassa posta: in una frase come «il tempo oggi era freddo e», termini come «coperto» o «grigio» hanno probabilità simili. Normalmente la scelta è affidata a un numero casuale. Con la marcatura attiva, la casualità resta, ma la sorgente cambia: la parola viene selezionata combinando una chiave crittografica e le parole immediatamente precedenti. Chi possiede la chiave può ricontrollare la sequenza e stimare la probabilità che il testo provenga da Claude. La marcatura è stata introdotta per rispettare l'AI Act europeo: Anthropic ha firmato a luglio il codice di condotta sulla trasparenza dei contenuti generati dall'intelligenza artificiale, insieme ad altri sviluppatori e a circa 190 firmatari complessivi. Dal 2 agosto, chi serve il mercato dell'Unione Europea deve marcare i testi prodotti dalle macchine. L'azienda applica il watermark globalmente perché non dispone di un modo affidabile per limitarlo a una singola area geografica, e afferma che continuerà a valutare approcci alternativi. Anche gli altri grandi fornitori adotteranno una propria marcatura.

Anthropic descrive il metodo come una variante di SynthID-Text, l'approccio pubblicato da Google DeepMind nel 2024, che appartiene a una famiglia di tecniche riconducibile a una proposta di Scott Aaronson del 2022. Il principio è lo stesso: modificare la sorgente della casualità nelle scelte fra parole equivalenti. L'azienda cita test interni e quelli di DeepMind, che aveva servito parte del traffico Gemini con un modello marcato senza rilevare differenze statisticamente significative nei giudizi degli utenti. La chiave permette di rispondere a una sola domanda: «Quanto è probabile che un testo sia stato scritto almeno in parte da Claude?». Non indica con assoluta certezza se un testo sia stato scritto da un umano, né riconosce l'intervento di altri modelli, che utilizzerebbero chiavi o metodi diversi. Il rilevamento inoltre funziona male sui campioni brevi, dove le scelte disponibili sono poche, e si indebolisce nei passaggi fattuali: dopo una frase come «L'opera più famosa di Isaac Newton si intitola», la parola successiva (Principia) è una sola e il watermark non ha margine d'azione. È inoltre distinto dai software di rilevamento privi di chiave, che si basano su indizi stilistici tipici della prosa dei modelli, come le costruzioni a contrasto del tipo «non è X, è Y».

Lo stesso vale per la correzione di bozze. Il watermark riguarda solo le parole scelte dal modello: se Claude interviene su un testo umano limitandosi a punteggiatura e grammatica, le modifiche possono essere troppo poche per risultare rilevabili. Le traduzioni ricadono nel caso opposto e vengono marcate integralmente, perché ogni parola è selezionata dal modello. Quanto alla rimozione, Anthropic osserva che ritocchi leggeri probabilmente non cancellano del tutto la marcatura, mentre una riscrittura completa sì, e nota che in quel caso «è discutibile se il testo possa ancora essere descritto come generato dall'intelligenza artificiale». Il codice, poi, riceve meno marcatura rispetto al testo discorsivo, perché in molti casi l'output deve essere esatto e non esistono alternative equivalenti. Restano da poter utilizzare le porzioni dove la scelta è arbitraria, come i commenti, con un impatto che Anthropic definisce trascurabile sul codice vero e proprio.

Ti raccomandiamo anche:

Scuola e IA: il vero pericolo non è copiare, ma perdere la voglia di impara...

Watermark invisibili nei testi IA: Anthropic e OpenAI si adeguano alle nuove reg...

Linus Torvalds: la IA ha reso enormi gli aggiornamenti del kernel Linux

L'IA crea virus mai esistiti: genomi artificiali funzionanti dai laboratori ...

Per la verifica, presto dovrebbe arrivare un'API dedicata, i cui dettagli implementativi non sono ancora definiti. Per le immagini il meccanismo è diverso: invece del watermark viene allegata una nota firmata crittograficamente nei metadati, secondo lo standard aperto C2PA utilizzato anche dai produttori di fotocamere e dai software di fotoritocco, leggibile da qualsiasi strumento compatibile. I modelli rilasciati prima del 2 agosto rientrano nel periodo di transizione previsto dalla legge europea e riceveranno la marcatura nei prossimi mesi.

Sullo stesso tema:

Immagini sintetiche su mappe di Google Earth: funzione sospesa dopo appena due g...

Studenti beccati a barare all'esame col trucco del prompt invisibile

Modelli IA fuori controllo evadono dalla sandbox e sferrano un attacco hacker da...

Linus Torvalds cambia rotta: chi non vuole l'IA in Linux può anche anda...