Foto di Laura Chouette.

Gli algoritmi di TikTok e il suo design orientato alla massimizzazione del tempo di permanenza sono da un paio d'anni sotto la lente d'ingrandimento della Commissione Europea, che è ora arrivata ad alcune conclusioni preliminari. Le indagini tecniche condotte nell'ambito del Digital Services Act (DSA) hanno evidenziato come l'architettura dell'applicazione sia intrinsecamente progettata per stimolare risposte dopaminergiche, creando una dipendenza comportamentale difficile da arginare attraverso i soli strumenti di controllo parentale.

Il cuore della questione risiede nel cosiddetto "effetto tana del coniglio" (rabbit hole), un fenomeno generato da algoritmi di raccomandazione che analizzano in millisecondi il tempo di visualizzazione e le interazioni per proporre contenuti sempre più specifici e coinvolgenti. Secondo le analisi tecniche fornite dalle autorità di regolamentazione, questo sistema non si limita a interpretare i gusti dell'utente ma agisce attivamente sulla capacità di autocontrollo, rendendo i meccanismi di interruzione della fruizione, come il limite di tempo giornaliero, facilmente aggirabili o psicologicamente inefficaci. L'Unione Europea ha contestato la sufficienza dei filtri di verifica dell'età e dei sistemi di monitoraggio per i genitori, giudicandoli insufficienti a contrastare un design che favorisce l'uso compulsivo. Le specifiche tecniche del DSA impongono alle piattaforme di grandi dimensioni una gestione del rischio che non si limiti alla moderazione dei contenuti, ma che intervenga sulla progettazione stessa dell'interfaccia utente (UX). Il «design dell'assuefazione», caratterizzato dallo scroll infinito e dalle notifiche predittive, è ora considerato una violazione diretta degli obblighi di sicurezza per i minori.

Un aspetto critico rilevato nelle documentazioni ufficiali riguarda l'impatto dei sistemi algoritmici sulla salute mentale, con particolare riferimento ai disturbi del sonno e ai comportamenti alimentari. Le analisi evidenziano come la personalizzazione spinta dei feed possa isolare i giovani utenti in bolle informative e visive che rinforzano tendenze negative, senza che i sistemi di protezione attualmente implementati da TikTok riescano a intercettare e mitigare tali rischi in modo proattivo. Dal punto di vista della protezione dei dati e della privacy, le autorità europee hanno sollevato dubbi sulle impostazioni predefinite dei profili dei minori. Nonostante le rassicurazioni della piattaforma, i test tecnici indicano che i parametri di visibilità e di interazione restano troppo permissivi, facilitando contatti indesiderati e l'esposizione di dati sensibili a fini di profilazione commerciale, violando potenzialmente i principi di "privacy by design" sanciti dal GDPR.

Le richieste della Commissione Europea non si fermano a una mera revisione delle policy, ma esigono cambiamenti strutturali nel codice dell'applicazione. Si discute della necessità di inserire nel design «punti di attrito» deliberati (friction points), atti a rompere il flusso continuo della navigazione e a restituire all'utente una consapevolezza temporale dell'utilizzo. La risposta tecnica di TikTok si è concentrata finora sul potenziamento del "Family Pairing", una funzione che permette ai genitori di collegare il proprio account a quello dei figli. Tuttavia le analisi indipendenti suggeriscono che tali strumenti siano spesso ignorati o disattivati, e che la loro efficacia sia subordinata a una consapevolezza digitale che non può sostituire la responsabilità del fornitore nel consegnare un prodotto sicuro alla fonte.

Consigliamo la lettura di:

Verifica dell'età, il TAR accoglie il ricorso di PornHub e ferma le san...

Il Digital Omnibus è una resa dell'Unione Europea?

L'UE alza l'età minima per i social: 16 anni o consenso dei genitor...

WhatsApp entra nel mirino dell'UE: nuove regole per i Canali e la moderazion...

Il dibattito si estende anche all'efficacia dei meccanismi di verifica dell'età. Le tecniche di stima dell'età dell'utente basate sull'intelligenza artificiale sono ancora oggetto di scrutinio tecnico per quanto riguarda il tasso di errore e il rispetto della privacy. La sfida per il social network è ora riuscire a implementare una verifica certa dell'identità senza raccogliere quantità eccessive di documenti d'identità, un equilibrio tecnico che l'Unione Europea considera fondamentale per la conformità legale.

Le sanzioni previste per la mancata ottemperanza alle direttive del DSA possono raggiungere il 6% del fatturato globale annuo dell'azienda sanzionata. Questo rischio finanziario sta accelerando la discussione interna a ByteDance per una riprogettazione parziale della versione europea dell'app, che potrebbe differenziarsi significativamente da quella disponibile in altre regioni geografiche per conformarsi ai rigorosi standard di sicurezza richiesti dal mercato unico. Il caso TikTok può finire per rappresenta un precedente fondamentale per l'intero settore tecnologico, stabilendo che il design dell'esperienza utente non è più lasciata alla discrezionalità dei programmatori: forse dovremo aspettarci norme europee anche nella progettazione delle interfacce dei software. L'evoluzione della piattaforma nei prossimi mesi sarà monitorata attraverso verifiche indipendenti, che verificheranno se i cambiamenti apportati ai sistemi di raccomandazione riducano effettivamente la dipendenza misurata.

Sullo stesso tema:

Recensioni online solo con fattura: nuove regole per hotel, ristoranti e attrazi...

Europa contro Piracy Shield: UE pretende modifiche per tutelare libertà e t...

L'UE lancia l’app per la verifica dell’età, Italia Paese pi...

La UE metterà il naso negli algoritmi dei giganti del web