Le fotografie caricate su Copilot per essere modificate dall'intelligenza artificiale non vengono necessariamente viste soltanto dai sistemi automatici. Un'indagine, pubblicata da 404 Media, basata su documenti interni di Microsoft e testimonianze di collaboratori incaricati della valutazione del servizio spiega che, in certi casi, revisori umani possono visualizzare le immagini originali degli utenti, i prompt utilizzati e le versioni generate dall'IA durante le attività di controllo della qualità del prodotto.

Il processo riguarda in particolare le funzioni di modifica delle immagini. Ai collaboratori incaricati della valutazione vengono mostrate la fotografia originale caricata dall'utente, la richiesta testuale associata e due differenti risultati prodotti da Copilot. Il loro compito consiste nello stabilire quale delle due versioni risponda meglio alle istruzioni ricevute. La procedura di valutazione si concentra su quattro aspetti principali. I revisori devono verificare se la modifica richiesta è stata eseguita correttamente, se le parti dell'immagine che non dovevano essere alterate sono rimaste invariate, se sono presenti difetti visibili e quale risultato presenti complessivamente la qualità migliore.

Le istruzioni riportate nei documenti interni mostrano inoltre un ricorso significativo al giudizio umano. Una delle indicazioni rivolte ai revisori afferma: «Fidati del tuo intuito: quando guardi rapidamente le due immagini modificate affiancate, quale ti sembra immediatamente la migliore? La tua reazione istintiva come osservatore umano conta». Un'altra indicazione aggiunge: «In caso di dubbio, scegli la tua prima impressione. L'intuizione umana è efficace nell'individuare differenze qualitative sottili difficili da descrivere».

Tutto ciò naturalmente implica che finiscano sotto gli occhi di terzi anche quelle richieste che vanno oltre il ritocco fotografico "normale" (come per esempio schiarire una certa zona, o rimuovere un certo elemento dall'immagine). Alcuni collaboratori hanno infatti riferito di aver visto esaminato richieste di modifiche «sessualizzanti», come l'aumento delle dimensioni del seno, l'accorciamento degli abiti o il posizionamento delle persone in situazioni considerate esplicitamente allusive. Tra i materiali segnalati dai revisori figurerebbero inoltre fotografie scattate sotto gli indumenti, contenuti legati ai disturbi alimentari, immagini considerate inquietanti e richieste relative a contenuti feticistici. Diversi commenti interni riportati nell'indagine descrivono il disagio provato dai collaboratori nell'imbattersi in tali materiali durante il normale svolgimento delle attività di valutazione. Una delle testimonianze riportate afferma: «I volti non sono mai censurati e molti dei prompt hanno natura sessuale e un consenso quantomeno dubbio».

Articoli suggeriti:

Instagram, utenti travolti da contenuti violenti e a luci rosse

Mattel in imbarazzo: le bambole Wicked rimandano a un sito porno

Reddit diventa per protesta il paradiso del porno

TikTok, arrivano i contenuti per soli adulti

Un aspetto interessante della questione riguarda il fatto che questi collaboratori non sarebbero stati assunti per moderare i contenuti o decidere se una richiesta debba essere accettata oppure bloccata: il loro ruolo sarebbe esclusivamente quello di valutare quale risposta generata dall'IA sia tecnicamente migliore rispetto alle istruzioni fornite dall'utente. Insomma, per quanto il contenuto possa metterli a disagio, quel che sono chiamati a giudicare è la capacità di Copilot di soddisfare le richieste dell'utente, indipendentemente dal fatto che il risultato, da un punto di vista morale o legale, crei loro problemi. Un altro elemento emerso dai documenti riguarda la scala del processo. Le informazioni raccolte indicano che sono per lo meno «centinaia» di revisori umani a compiere questa attività di valutazione.

Interpellata sulla questione, Microsoft ha dichiarato soltanto che «Microsoft utilizza i dati dei clienti come descritto nelle nostre condizioni d'uso, anche per migliorare i nostri prodotti e applicare il nostro codice di condotta»; non ha ammesso né smentito alcunché, ma neppure ha contestato che dati e contenuti possano essere utilizzati e rivisti da esseri umani nell'ambito dei processi di miglioramento dei prodotti descritti nei termini del servizio. L'indagine d'altra parte non dimostra che ogni singolo prompt o ogni singola immagine caricata su Copilot venga sottoposta a revisione umana. La documentazione supporta invece una conclusione più circoscritta: almeno una parte dei contenuti inviati dagli utenti può essere mostrata a collaboratori incaricati di valutare l'efficacia delle modifiche prodotte dall'intelligenza artificiale. Quando inviate un'immagine alla IA di Microsoft, insomma, sappiate che potrebbe finire sul monitori di qualcuno e chiedetevi se davvero volete che la veda.

Sullo stesso tema:

Il casco antiporno aiuterà la censura cinese

Ex moderatori fanno causa a TikTok: troppi video inquietanti

Moderatrice fa causa a TikTok per i video scioccanti che deve sorbirsi

TikTok censura i poveri e i brutti