L'Unione Europea sta per introdurre l'obbligo di etichettare i contenuti generati dall'intelligenza artificiale che imitano materiale autentico. Dal 2 agosto, immagini, audio e testi creati per apparire realistici dovranno includere una filigrana digitale, in base a quanto stabilito dalla legge sulla IA. La misura riguarda i nuovi sistemi immessi sul mercato europeo, mentre quelli già esistenti avranno quattro mesi aggiuntivi per adeguarsi. L'obiettivo dichiarato è rendere immediatamente riconoscibile il contenuto sintetico che potrebbe essere confuso con materiale reale.

Le nuove regole si applicano ai contenuti generati con intento realistico, indipendentemente dal formato. Sono esclusi gli usi personali e le opere chiaramente artistiche, satiriche o di finzione. L'obbligo di etichettatura è accompagnato da un sistema di sanzioni che può arrivare fino al tre per cento del fatturato globale dell'azienda che ha generato il materiale in caso di mancata conformità. Le autorità europee hanno inoltre predisposto etichette ufficiali in bianco e nero che le organizzazioni possono adottare oppure sostituire con soluzioni proprie purché conformi ai requisiti tecnici.

L'obbligo dovrebbe rendere più evidente la presenza di contenuti sintetici in settori dove l'uso dell'IA è già diffuso ma poco percepito dagli utenti. È pur vero che diverse piattaforme social hanno già introdotto politiche per identificare immagini fotorealistiche generate dall'IA, ma l'efficacia non è uniforme. Alcuni contenuti sfuggono ai controlli, come certi brevi video di presunti medici generati dall'IA che diffondono consigli sanitari non verificati. Strumenti come SynthID di Google, utilizzato per etichettare immagini e audio sintetici, hanno già applicato dei watermark a oltre 100 miliardi di immagini e decine di migliaia di anni di contenuti audio equivalenti.

Le norme previste dall'AI Act non si fermano però qui. Dal 1 agosto entrano in vigore le prime disposizioni generali, mentre i divieti relativi alle applicazioni ad alto rischio saranno applicati entro sei mesi. Tra queste rientrano sistemi di social scoring, raccolta massiva di dati biometrici per database di riconoscimento facciale e strumenti di riconoscimento delle emozioni in contesti educativi o lavorativi. Dopo nove mesi saranno introdotti codici di condotta per gli sviluppatori, elaborati dall'AI Office europeo in collaborazione con società di consulenza e fornitori di modelli ad uso generale. Entro un anno, poi, i produttori di modelli di IA generica dovranno rispettare nuovi requisiti di trasparenza, dimostrando che i sistemi sono sicuri e spiegabili. Le norme includono anche obblighi specifici per i contenuti manipolati, come deepfake e media sintetici, che dovranno essere chiaramente etichettati. I fornitori di modelli dovranno inoltre rispettare le leggi sul copyright, salvo eccezioni per attività di ricerca e sviluppo. Il testo dell'AI Act chiarisce che i titolari dei diritti possono riservare l'uso delle proprie opere per impedire attività di scansione di testo e immagini non autorizzate.

Spunti di approfondimento:

Watermark invisibili nei testi IA: Anthropic e OpenAI si adeguano alle nuove reg...

Contenuti generati dall'IA: il Codice UE definisce marcatura, icone e respon...

Google svela Gemini Omni e Ask YouTube

Google Pics rende più semplice riconoscere i fake

Il quadro normativo europeo prevede che gli utenti siano informati quando interagiscono con contenuti generati dall'IA, anche nei casi considerati a basso rischio, come filtri antispam o assistenti automatici. Le applicazioni ad alto rischio, invece, dovranno rispettare requisiti più stringenti, tra cui la non discriminazione, la protezione dei dati e la trasparenza dei processi decisionali. Le misure europee mirano a ridurre l'impatto dei contenuti sintetici realistici sulla percezione pubblica, garantendo che gli utenti possano distinguere tra materiale autentico e generato artificialmente. Le disposizioni sull'etichettatura rappresentano uno dei primi passi di un quadro regolatorio più ampio, destinato a evolversi nei prossimi anni con l'entrata in vigore progressiva delle norme della legge sulla IA.

Per approfondire:

Alexa genera podcast su qualsiasi tema, imitando perfettamente una voce umana

Digg fallisce e rinasce: da clone di Reddit ad aggregatore di notizie sulla IA

Moltbook, il social dove parlano solo le IA

Matthew McConaughey registra se stesso come marchio per proteggersi dalla IA