Le lancement de la nouvelle fonctionnalité d'intelligence artificielle de Google a été remarquablement rapide. Cet outil, intégré à Google Earth, visait à permettre aux utilisateurs de créer des scènes aériennes réalistes à l'aide de simples commandes textuelles. Cependant, au lieu de se limiter à des expériences spectaculaires, les utilisateurs ont presque immédiatement commencé à utiliser la fonctionnalité pour générer des installations militaires fictives, des bombardements et d'autres événements dans des lieux réels. Le problème était plus grave qu'avec un simple générateur d'images. L'IA ne créait pas un paysage aléatoire. Elle permettait de pointer un endroit précis sur la carte et de générer une scène photoréaliste représentant un événement qui n'avait jamais eu lieu. Google a désactivé cette fonctionnalité dès le lendemain de son lancement. Cette nouvelle fonctionnalité, qui exploitait le modèle Nano Banana 2, permettait d'expérimenter avec les paysages et de visualiser différentes scènes dans l'environnement Google Earth. Le principe semblait simple : l'utilisateur sélectionnait un lieu réel, puis saisissait une commande décrivant la modification souhaitée. L'IA générait ensuite une image aérienne réaliste. Cependant, la frontière entre divertissement et désinformation s'est avérée très ténue. Le chercheur néerlandais en renseignement Henk van Ess a rapidement démontré que le système pouvait être utilisé pour placer des objets fictifs dans des lieux réels. Dans une expérience, il a généré une scène représentant une centrale nucléaire en Iran. Dans un autre cas, on aurait pu ajouter un groupe de réfugiés près de la frontière mexicaine, ainsi qu'un hôpital représenté comme le lieu d'un récent bombardement dans la bande de Gaza. La technologie de génération d'images n'est évidemment pas nouvelle. Des outils capables de créer quasiment n'importe quelle scène photoréaliste existent depuis des années. Cependant, cette fois-ci, le défi consistait à connecter le générateur à la carte et aux coordonnées du monde réel.

C’est cet élément qui a le plus suscité l’intérêt des chercheurs. Imaginez une photographie représentant un objet précis dans une zone de conflit. Le cadrage respecte la perspective, le paysage correspond au terrain réel et les coordonnées mènent à l’emplacement exact. Au premier abord, le spectateur pourrait considérer ce type de document comme une image satellite, mais l'objet représenté pourrait ne jamais exister. BBC Verify a mené ses propres tests, qui ont produit des images montrant notamment la tour Eiffel effondrée, un immense cratère près des pyramides de Gizeh et des chars russes à Kiev. L'AFP a présenté d'autres exemples, dont de fausses explosions à Paris et un prétendu camp d'entraînement de l'État islamique en Syrie. Les expériences menées par 404 Media ont exploré une autre voie. L'outil leur a permis d'ajouter des gratte-ciel à des zones qui n'en existaient pas et de créer des camps fictifs à Los Angeles. Il ne s'agissait donc pas d'une simple erreur de modélisation. La possibilité de créer des scènes alternatives entières dans des lieux réels faisait partie intégrante du fonctionnement du système.

Google utilise le système SynthID dans le contenu qu'il génère. Ce filigrane numérique permet aux utilisateurs d'identifier le contenu généré par l'IA. Cette technologie est invisible pour l'utilisateur et est conçue pour persister même après la prise de captures d'écran ou la compression d'images. Cependant, cela ne résout pas le problème au moment de la publication. La personne qui diffuse la fausse image peut omettre de mentionner qu'elle a été générée par une intelligence artificielle. Le destinataire ne verra peut-être qu'une photographie représentant un lieu précis. Si de tels contenus sont diffusés sur les réseaux sociaux pendant une guerre, une catastrophe ou tout autre événement violent, la réaction du public peut être beaucoup plus rapide que leur vérification. Le tatouage numérique est utile lorsqu'une personne dispose du temps et des outils nécessaires pour vérifier l'origine d'une image. Cependant, il n'empêche pas la création et la diffusion de contenus falsifiés. L'entreprise a souligné une limitation importante de la situation : les images générées n'ont pas été intégrées à la couche d'imagerie de base de Google Earth. Par conséquent, un utilisateur ne peut pas simplement ouvrir Google Earth et y voir une centrale nucléaire ou un bâtiment détruit reconstitués à la place d'une véritable image satellite. Les fausses scènes ont été créées à l'aide d'un outil de génération expérimental. Cette distinction est importante, mais elle ne résout pas le problème de la génération de contenu en elle-même. Google Earth est utilisé depuis longtemps par les journalistes, les organisations de défense des droits humains, les analystes et les chercheurs spécialisés dans les conflits. L'imagerie satellite permet de vérifier les informations concernant les dommages causés aux infrastructures, les mouvements militaires et les changements survenus dans des lieux précis. La possibilité de créer une image d'apparence similaire mais entièrement fictive crée le risque de confondre les données générées par l'IA avec les preuves issues d'observations satellitaires réelles.

L'expérience iranienne a été particulièrement marquante. Van Ess a démontré qu'une simple commande textuelle suffisait à générer une installation nucléaire fictive à un emplacement réel. Aucune compétence en infographie n'est requise, ni aucun logiciel de retouche photo professionnel. Il n'est pas non plus nécessaire de créer son propre modèle génératif. L'utilisateur décrit la scène et le système fait le reste, ce qui rend la création de faux visuels très facile. Avec un simple générateur d'images, le spectateur peut se rendre compte qu'il visualise une scène générée. Cependant, combiner cette génération avec une carte réelle change complètement la donne. La géolocalisation confère à l'image une crédibilité accrue. L'entreprise a déclaré avoir surveillé l'utilisation de cette fonctionnalité par les spécialistes des données géospatiales, mais a décidé de la retirer afin de mettre en œuvre des mesures de sécurité supplémentaires. La fonctionnalité a été lancée, des chercheurs ont commencé à tester ses capacités, des exemples d'utilisation problématiques sont apparus, et Google a décidé de la retirer le lendemain. Ce n'est pas la première fois qu'un produit d'IA d'une grande entreprise est rapidement restreint suite à la découverte d'un comportement inattendu. L'entreprise a connu une situation similaire avec Gemini. En 2024, Google a temporairement limité sa capacité à générer des images représentant des humains après la découverte d'importantes inexactitudes historiques dans plusieurs résultats. L'entreprise s'est ensuite employée à revoir en profondeur la sécurité et le fonctionnement du système.