Google Earth ha lanciato un generatore di finte immagini satellitari. È durato un giorno

Ci sono prodotti che muoiono per mancanza di utenti. Altri muoiono perché qualcuno, nel giro di poche ore, dimostra esattamente cosa ci si può fare. La funzione AI di Google Earth appartiene alla seconda categoria: annunciata giovedì, ritirata venerdì. Un ciclo di vita da record, anche per gli standard nervosi dell'industria AI.

L'idea, sulla carta, aveva una sua logica. Google ha innestato Nano Banana 2 — il suo generatore di immagini — dentro l'app di mappe satellitari, permettendo di modificare le immagini del pianeta con un prompt testuale. Motivazione ufficiale: "essere creativi con la geografia". Tradotto: pianificare, immaginare, visualizzare scenari. E in effetti Google sostiene che diversi professionisti del geospaziale l'hanno usata per scopi legittimi.

Il problema è che Google Earth non è Photoshop. È una delle poche fonti visive che giornalisti, ricercatori e OSINT community trattano come riferimento condiviso della realtà. Metterci dentro un generatore di immagini equivale a installare una macchina per stampare banconote nel caveau della Banca Centrale.

Ci sono volute poche ore per rompere tutto

Henk van Ess, che gestisce il blog Digital Digging, ha fatto quello che chiunque avrebbe fatto: ha provato i prompt peggiori. Ha generato immagini con gruppi di migranti nei pressi del confine messicano e un cratere da bomba accanto a un ospedale a Gaza. Nella sua ricostruzione, il sistema non ha mai opposto resistenza: niente rifiuti, niente addolcimenti, nessun suggerimento di riformulare la richiesta.

È un dettaglio che pesa, perché la prima risposta di Google alle critiche puntava proprio su due argomenti: le immagini generate portano un watermark digitale SynthID, e l'azienda blocca "la creazione di immagini su temi dannosi". Il secondo punto, evidentemente, non ha funzionato. Il primo è più interessante, e più fragile di quanto sembri.

I test di Ars Technica mostrano che SynthID è robusto: sopravvive a modifiche sostanziali e a perdite di dati. Ma quando i giornalisti hanno semplicemente fotografato con uno smartphone lo schermo che mostrava un'immagine alterata, il sistema di verifica non ha più rilevato nulla. Zero. E c'è un altro limite non banale: le verifiche via Gemini sono contingentate, circa dieci al giorno. Un fact-checker che deve controllare un flusso di contenuti sospetti si ferma prima di pranzo.

van Ess ha messo il dito nella piaga con una frase che vale più di qualsiasi white paper: i falsi non viaggiano come file puliti con le credenziali intatte. Viaggiano come registrazioni dello schermo, ricodifiche, screenshot di screenshot, riprese fatte di fretta col telefono di qualcun altro. Ha anche mostrato di aver ingannato il sistema di detection di Hive con un video generato in Google Earth.

Il watermark è una risposta tecnica a un problema sociale

Qui sta il nodo che va oltre Google. L'intera strategia dell'industria sulla provenienza dei contenuti — watermark invisibili, metadati firmati, standard di credenziali — è pensata per un ecosistema che non esiste: uno in cui i contenuti circolano intatti, dentro piattaforme che leggono e mostrano quei segnali, davanti a utenti che li sanno interpretare.

La realtà è che la disinformazione visiva prospera esattamente nella degradazione: compressione, ritaglio, ripresa dello schermo. Il canale di distribuzione dei falsi è progettato, per sua natura, per distruggere le prove tecniche della loro falsità. Un watermark che sopravvive a un'operazione di editing ma non a una foto scattata al monitor è utile in tribunale, molto meno su un gruppo Telegram.

C'è poi il danno collaterale di cui si parla troppo poco: l'effetto "liar's dividend". Se diventa plausibile che le immagini satellitari possano essere generate o alterate con un prompt, chiunque abbia interesse a negare un'immagine autentica — un governo, un esercito, un'azienda sotto inchiesta ambientale — ottiene gratis una scusa pronta. Non serve che i falsi circolino davvero: basta che siano possibili. Google Earth valeva qualcosa proprio perché nessuno metteva in dubbio la sua base di partenza.

van Ess suggerisce l'unica risposta sensata per chi lavora sulla verifica: incrociare più fonti indipendenti e appoggiarsi ad archivi satellitari aggiornati e istituzionali, come il Copernicus Sentinel-2 europeo. Non è un consiglio nuovo, ma diventa metodo obbligatorio quando la fonte più comoda perde l'aura di neutralità.

Cosa succede adesso

La nota di Google merita una lettura attenta. L'azienda riconosce che le persone si fidano "in modo particolare" di Google Earth, ammette di aver visto circolare screenshot che sembrano violare le sue policy, e precisa che le immagini generate non comparivano nell'esperienza principale dell'app né erano visibili ad altri utenti. Poi la formula chiave: si torna indietro mentre si lavora a guardrail più solidi.

Non è una cancellazione, è una pausa. La funzione tornerà, probabilmente con filtri più aggressivi su conflitti, confini, infrastrutture sensibili, forse limitata ad account professionali o a un contesto chiaramente separato dalla vista satellitare reale. È la scommessa strutturale di questi mesi: rilasciare, osservare i danni, correggere.

Per chi costruisce prodotti con l'AI generativa, la lezione è concreta e non riguarda la moderazione. Riguarda il contesto. Lo stesso modello che è innocuo dentro un'app di grafica diventa tossico dentro un'app che il pubblico usa come prova. Il rischio non sta nel generatore, sta nel contenitore in cui lo metti — e nella fiducia accumulata da quel contenitore, che non ti appartiene davvero: te la prestano gli utenti, e possono ritirarla molto più in fretta di quanto tu possa ricostruirla.

Google ha reagito in ventiquattro ore, che nel suo caso è quasi un riflesso. Resta la domanda sul perché quella funzione sia arrivata al pubblico: un red team esterno l'ha smontata in un pomeriggio, con prompt che qualsiasi valutazione interna avrebbe dovuto provare per prima.