Foto di Etienne Girardet.

I 24 lettori sanno bene che Cassandra usa metodi manuali e antiquati in molte situazioni, a costo di essere derisa e sottovalutata. Ha strane abitudini come gestire siti scrivendo l'HTML a mano con un editor di testo, rifuggire dai social e dalle dialettiche via chat, nonché non utilizzare LLM, neppure come tool secondari, durante la scrittura. E proprio quest'ultima abitudine, che Cassandra ha da sempre ritenuta importante per la qualità degli elaborati e per l'esercizio della mente, si è recentemente dimostrata ancora più necessaria a causa dell'inserimento forzato di tecnologie di watermarking in Claude da parte di Anthropic.

Come probabilmente avete già letto, Claude genererà, automaticamente e in maniera non disattivabile, un watermark per tutti i testi e tutte le immagini che genera. Il caso delle immagini oggi non ci interessa; in questo caso il watermarking di Claude è semplicemente un set di metadati firmato digitalmente, e come tutti i metadati facilmente rimovibile. Non altera quindi l'immagine a cui viene applicato, nemmeno minimamente. Diverso è il caso del watermark per i testi; questo è molto più sofisticato e funziona alterando sottilmente la scelta delle parole che l'LLM opera, senza alterare in maniera sostanziale il testo prodotto. Per un dato LLM, questa scelta è rilevabile tramite un algoritmo, purché si conosca una particolare coppia di chiavi pubblica/privata con cui l'LLM ha criptato le modifiche che costituiscono il watermarking.

L'algoritmo di verifica del watermarking di Claude fornisce un valore di probabilità che il testo sia stato elaborato con quel dato modello. E così fanno tutti quelli introdotti in altri contesti fino a oggi. Si stabilisce poi un arbitrario e sempre discutibile valore di soglia per trasformarlo in una indicazione binaria "LLM sì / LLM no". Nel tipo di watermarking implementato in Claude ci sono una quantità di problemi:

- il watermarking deve essere verificato separatamente per ciascun modello esistente;
- l'utilizzo dell'algoritmo di verifica del watermarking è vincolato al possesso di una chiave, e non è un semplice algoritmo riproducibile da chiunque;
- il watermarking è probabilistico, non fornisce certezza; è sempre e solo un indizio, non una prova; - il watermarking segnala solo il passaggio attraverso un LLM, non l'importanza di quello che è stato fatto durante l'elaborazione; una generazione completa del testo da parte dell'LLM o una correzione sintattica sono equivalenti.

Non perderti anche:

Anthropic spiega come funziona il watermark nei testi generati dalla IA

Watermark invisibili nei testi IA: Anthropic e OpenAI si adeguano alle nuove reg...

L'UE impone etichette ai contenuti IA realistici

Google Pics rende più semplice riconoscere i fake

Concentriamoci su questo ultimo problema; non che gli altri non siano altrettanto importanti, ma oggi semplicemente sono fuori tema. È pur vero che un verificatore di watermark può anche scambiare un testo interamente scritto da una persona per un testo generato da un LLM; dato il funzionamento probabilistico dei watermark questo non si può mai escludere. Ma di contro qualsiasi passaggio attraverso un LLM del tipo che è stato implementato su Claude macchierà indelebilmente il vostro testo. Anche nel caso che l'impatto su di esso sia trascurabile per il contenuto, come una modifica di stile o una correzione sistematica sul testo.

Se siete interessati all'accettazione come opera originale dei vostri testi, in giro per la Rete o in situazioni accademiche, dovete assolutamente considerare questa possibilità. E mentre non ci sono modi sicuri di evitare o cancellare un watermarking quando il testo è generato effettivamente dal LLM da un prompt o comunque è stato utilizzato per elaborarlo, esistono modi ben noti per correggere e verificare errori di battitura, di punteggiatura (analisi del periodo) e in alcuni casi di stile, semplicemente tramite i correttori dei vari programmi di videoscrittura che utilizzate.

E ora veniamo al punto e alla raccomandazione accorata che la vostra profetessa preferita vuole farvi; l'argomento watermark era infatti solo un pretesto per poterne parlare. Se avete studiato l'italiano (o un'altra lingua) e lo usate per scrivere testi e trasmettere qualcosa che avete nella testa (e no, le cose scritte in chat non sono questo), il vostro stile e il vostro modo di esprimervi sono una parte di voi; una parte che vi sembra apparentemente secondaria ma che è invece sostanziale della vostra scrittura. Qualsiasi passaggio attraverso un LLM azzera queste caratteristiche, convertendole nella media dei testi con cui è stato addestrato, e eventualmente nella direzione richiesta dal prompt. È questo che volete?

Proposte di lettura:

Celebrità morte riappaiono in video senza consenso con Sora 2: si infiamman...

Clothoff bloccata in Italia: il Garante Privacy ferma l'app che spoglia le p...

Adobe porta Premiere sull'iPhone, con strumenti avanzati per l'editing v...

Google lancia Nano Banana: Gemini genera immagini credibili e coerenti

Qualsiasi autore di qualsiasi epoca, se potesse capire la questione, risponderebbe con un «No!» indignato. Ma voi la questione potete capirla perfettamente e quindi siete del tutto responsabili per quello che farete, o non farete. Sì, perché voi, se non siete molto molto giovani, fino a pochissimi anni fa scrivevate tranquillamente le vostre cose con la vostra prosa e il vostro stile, anche se con un po' più di fatica. Sapete benissimo che usate gli LLM per una questione di produttività, o meglio di pigrizia, non di qualità del testo. La qualità siete voi e il vostro stile; se usate gli LLM la state in gran parte cancellando. Non è importante per voi? Pensateci.

Proposte di lettura:

Tutti registi con Gemini: la IA di Google trasforma le foto in brevi video

Da Adobe una web app per impedire alla IA l'uso delle immagini

Google infila la IA dappertutto

L'app che spoglia nude le donne in pochi secondi