Bientôt, il sera beaucoup plus facile de savoir si l'on regarde une image modifiée avec l'IA générative : Google Photos est sur le point de se doter d'une section d'informations dédiée . La diffusion d'outils de génération et de modification d'images a changé à jamais notre perception de la réalité, et c'est pour cette raison que l'Europe s'est également mise en mouvement avec l'AI Act . Mais les entreprises technologiques doivent également faire leur part pour rendre l'utilisation de l'IA aussi transparente que possible : voyons comment fonctionne la solution de Google . Le fonctionnement de cet outil est aussi simple qu’efficace en théorie . Lorsque vous ouvrez une image dans Google Photos , faites glisser votre doigt vers le haut pour accéder à une section intitulée Détails, qui affiche diverses informations telles que les données de l'appareil qui l'ont prise, sa taille et si elle a été sauvegardée. À partir de la semaine prochaine, un nouvel élément sera ajouté, appelé AI Info , qui affichera deux informations. Le premier, appelé Crédit , montrera si l'image a été modifiée avec l'intelligence artificielle. Comme le montre cet exemple fourni par Google, vous pouvez voir l'écriture « Edited with Google AI » ou « Made by Google AI », si l'image a été éditée avec Pixel Studio et Gemini.

La seconde, appelée Type de source numérique , affichera Edited using générative AI , c'est-à-dire avec des outils comme Magic Editor , Magic Eraser et Enhanced Zoom . Les deux premiers peuvent être trouvés sur tous les téléphones, tandis que le dernier est exclusif aux téléphones Google, mais tous incluent déjà des métadonnées dans les images pour les reconnaître comme modifiées par l'IA. Alternativement, il est possible de trouver l'écriture Composite des éléments capturés (on ne sait toujours pas comment elle sera traduite en italien), dans le cas de changements qui, bien que n'utilisant pas l'IA générative, ne capturent pas un moment réel, tels que Best Shot et Add Me.

Il y a un aspect important à garder à l'esprit, c'est que l' outil ne reconnaît pas seulement les modifications apportées par l'IA de Google , mais toutes les images qui suivent la norme IPTC. L'IPTC (International Press Telecommunications Council) est l'organisme mondial de normalisation des médias, qui a introduit une norme pour les métadonnées relatives aux images créées ou modifiées avec l'IA (c'est-à-dire le crédit et le type de source numérique ). Non seulement cela, mais Google a déjà annoncé « une plus grande transparence autour des changements en matière d'IA » en septembre , à tel point qu'il a rejoint la Coalition pour la provenance et l'authenticité du contenu (C2PA).

Google a annoncé que la nouvelle arriverait la semaine prochaine pour tous les utilisateurs de Google Photos. Il y a cependant un problème, ou plutôt deux. La première, comme vous pouvez le voir sur l’image ci-dessus, est que les métadonnées peuvent être facilement modifiées. La seconde est que l’outil d’IA doit inclure des métadonnées selon la norme IPTC. Fondamentalement, si un développeur ne souhaite pas les inclure, vous ne saurez jamais qu'une image a été modifiée ou créée avec l'IA. En Europe, on tente de dépasser cette limite avec la loi sur l'IA , mais même si elle entre en vigueur en août 2024, son application complète prendra encore deux ans. C'est pourquoi Apple, qui introduira l'intelligence visuelle avec iOS 18.2 , du moins aux États-Unis, a décidé pour le moment de rester à l'écart des fonctions telles que l'ajout d'objets aux photos. Tandis que la suppression d'objets sera indiquée par une balise dans l'application Photos et les métadonnées correspondantes. Bref, le problème est loin d'être résolu, mais la décision de Google est certainement un pas dans la bonne direction.