Foto di CDC.

Gli errori nelle informazioni sanitarie generate dalla funzionalità AI Overviews di Google hanno aperto uno dei dibattiti più delicati degli ultimi mesi sul ruolo dell'intelligenza artificiale nella ricerca online. Numerose inchieste giornalistiche hanno evidenziato casi in cui i riepiloghi automatici fornivano indicazioni mediche scorrette e Google si è trovata costretta a intervenire con rimozioni e verifiche mirate. Il problema riguarda risposte sintetiche che compaiono in cima ai risultati di ricerca e che in alcuni casi hanno diffuso informazioni prive di fondamento scientifico. Tra gli esempi citati figurano raccomandazioni alimentari errate rivolte a pazienti affetti da cancro al pancreas, con potenziali rischi per persone già in condizioni di fragilità.

Un'inchiesta del Guardian ha documentato almeno tre casi in cui le AI Overviews hanno fornito consigli sanitari sbagliati, inducendo Google a rimuovere alcune risposte dopo la pubblicazione dell'indagine. Le rimozioni sono avvenute nei giorni immediatamente successivi, segno di un intervento rapido da parte dell'azienda. Il dibattito sull'affidabilità dei riepiloghi AI si è intensificato negli ultimi mesi, soprattutto per la crescente diffusione di strumenti che sintetizzano contenuti complessi come quelli medici. Le informazioni sanitarie richiedono un livello di accuratezza elevato, e gli errori riscontrati hanno alimentato un clima di sfiducia verso l'automazione in questo ambito.

I riepiloghi AI sono stati progettati per fornire risposte rapide a domande complesse, ma la loro applicazione in ambito sanitario ha mostrato limiti significativi. Le sintesi generate possono risultare fuorvianti quando non supportate da fonti mediche affidabili, con il rischio di influenzare decisioni personali sulla salute. Il problema non riguarda solo la qualità delle risposte, ma anche la loro posizione nei risultati di ricerca. Le AI Overviews compaiono infatti prima dei link tradizionali, aumentando la probabilità che gli utenti si affidino a tali sintesi senza consultare fonti aggiuntive.

Le segnalazioni hanno spinto Google a intervenire con rimozioni mirate e verifiche interne. Alcune risposte sono state eliminate dopo la pubblicazione delle inchieste, mentre l'azienda ha avviato controlli per migliorare l'affidabilità dei riepiloghi in ambito sanitario. Non sono stati diffusi dettagli tecnici sulle modifiche implementate, ma le rimozioni confermano l'esistenza di un processo di revisione attivo. Il problema è che gli utenti tendono a considerare attendibili le risposte sintetiche fornite dai motori di ricerca, soprattutto quando presentate in forma chiara e immediata; ma sappiamo che le IA sono soggette ad "allucinazioni" e in generale a imprecisioni, molto pericolose quando c'è di mezzo la salute. Ecco perché Google ha deciso di rimuovere le AI Overviews per alcune ricerche a tema medico. Ciò non costituisce una soluzione definitiva, ma è la dimostrazione di come non sia saggio affidarci ciecamente a quanto generato dalle IA: come può sbagliare la IA di Google, così possono farlo i concorrenti. In altre parole: se ci sono dubbi in materia di salute è ancora meglio consultare un medico umano.

Ti raccomandiamo anche:

La truffa della falsa scadenza della tessera sanitaria dilaga in Italia

ChatGPT Salute, lo spazio sicuro per dati sanitari e referti digitali. Ecco come...

Gli AirPod faranno anche l'elettroencefalogramma. Aiuteranno a tenere la sal...

La webcam da mettere nel WC: Dekoda valuta la salute dell'intestino e l'...

Proposte di lettura:

Wikipedia, calano gli utenti umani: colpa delle sintesi della IA. Guai in vista ...

ChatGPT si evolve: invita gli utenti a prendersi una pausa e si preoccupa della ...

Salute, Garante Privacy lancia allarme sulle IA usate come diagnosi

Da Samsung un anello per domare la salute