Immagine: BBC

Google ha ritirato la nuova funzione di Google Earth basata sul generatore di immagini Nano Banana 2, dopo che esperti di disinformazione hanno segnalato rischi significativi legati alla possibilità di creare scenari falsi sovrapposti a immagini satellitari reali. La decisione è arrivata meno di 48 ore dopo il lancio, in seguito alla diffusione di contenuti generati che violavano le linee guida dell'azienda. La funzione, introdotta il 30 luglio, permetteva agli utenti di selezionare un punto su Google Earth, attivare il comando "create image" e descrivere tramite testo ciò che desideravano visualizzare. Il sistema combinava la base satellitare, aerea o 3D con la generazione di contenuti sintetici, producendo immagini scaricabili e condivisibili. Google aveva presentato lo strumento come un modo per visualizzare progetti architettonici, ricostruzioni storiche o trasformazioni urbane, con esempi che includevano la ricreazione di Pompei nel 79 d.C. o la progettazione di quartieri commerciali.

Secondo Google, il modello integrato avrebbe dovuto impedire la creazione di contenuti relativi ad «argomenti dannosi», grazie a linee guida incorporate. Tuttavia, test indipendenti hanno mostrato che modifiche minime ai prompt consentivano di aggirare tali limitazioni. In un caso, una richiesta esplicita di generare una struttura per «impiccare traditori» vicino al Parlamento britannico era stata respinta, mentre una formulazione più generica veniva accettata e produceva un'immagine. La BBC ha dimostrato che la funzione permetteva di creare scenari falsi in luoghi sensibili, come un presunto crollo della Torre Eiffel, un'enorme voragine sulla Grande Piramide di Giza o la presenza di mezzi militari russi nel centro di Kiev. Le immagini risultavano sovrapposte a coordinate reali, conferendo loro un'apparenza di autenticità. L'esperto Henk van Ess ha osservato che Google aveva consentito a contenuti inventati di essere «accoppiati a coordinate genuine e disegnati su immagini genuine», aggiungendo che «la falsificazione non ha bisogno du sembrare convincente da sé: eredita la credibilità della mappa su cui nasce».

Ulteriori test hanno mostrato che, pur essendo presenti filigrane invisibili destinati a segnalare la natura sintetica delle immagini, era possibile eludere i controlli e indurre il chatbot Gemini a classificare come reali contenuti generati tramite la nuova funzione. Anche strumenti esterni di rilevamento dell'IA fallivano in alcuni casi nell'identificare la manipolazione. Come spiega Bill Greer, analista geospaziale, la possibilità di generare immagini sintetiche su mappe reali è «potenzialmente dannosa per la fiducia pubblica», poiché la fotografia satellitare è storicamente percepita come una fonte particolarmente affidabile. Ha ricordato che contenuti falsificati sono già stati utilizzati per diffondere disinformazione e che la crescente restrizione nell'accesso ai dati reali potrebbe amplificare il problema.

Il 31 luglio Google ha così annunciato la sospensione della funzione, dichiarando di aver osservato «persone che condividevano screenshot di immagini generate che sembrano violare le nostre politiche». L'azienda ha affermato di voler implementare «barriere più solide» prima di reintrodurre la funzionalità. Ha precisato inoltre che le immagini generate non comparivano nell'esperienza principale di Google Earth e che erano contrassegnate come contenuti sintetici. Al momento Google non ha fatto sapere se e quando intenda ripristinare la funzione, limitandosi a confermare che saranno introdotti controlli più rigorosi prima di una eventuale riattivazione.

Consigliamo la lettura di:

Anthropic spiega come funziona il watermark nei testi generati dalla IA

Furgone segue il navigatore e arriva a un rifugio di montagna

Il simulatore di volo di Google Earth

Il processore di Google per i datacenter