Les recherches Google détecteront désormais l'origine des images manipulées par l'IA

Google est en tête du peloton des entreprises technologiques qui identifient les « photos » assistées par l'IA.

Google intensifie ses efforts pour étiqueter correctement le contenu généré par l'IA, en mettant à jour son outil interne « À propos de cette image » avec une norme mondiale permettant de détecter les origines d'une image modifiée par l'IA.

Le nouveau label a été formulé dans le cadre du travail de Google avec la Coalition pour la provenance et l'authenticité du contenu (C2PA). Les membres de la C2PA se sont engagés à développer et à adopter un processus de certification et de détection d'IA standardisé, rendu possible par une technologie de vérification connue sous le nom de « Content Credentials ». Cependant, tous les membres de la C2PA, parmi lesquels Amazon, Meta et OpenAI, n'ont pas mis en œuvre les normes d'authentification.

Google fait le premier pas parmi les principaux acteurs en intégrant la nouvelle norme 2.1 de la C2PA dans des produits comme Google Search et éventuellement Google Ads (l'invite « À propos de cette image » se trouve en cliquant sur les trois points verticaux situés au-dessus d'une photo découverte lors d'une recherche). Cette norme comprend une « liste de confiance » officielle d'appareils et de technologies qui peuvent aider à vérifier l'origine d'une photo ou d'une vidéo grâce à ses métadonnées. « Par exemple, si les données montrent qu'une image a été prise par un modèle d'appareil photo spécifique, la liste de confiance permet de valider que cette information est exacte », a déclaré à The Verge Laurie Richardson, vice-présidente de la confiance et de la sécurité de Google. « Notre objectif est d'intensifier ce processus au fil du temps et d'utiliser les signaux C2PA pour éclairer la manière dont nous appliquons les politiques clés. »

Après avoir rejoint la C2PA en mai, TikTok est devenue la première plateforme vidéo à mettre en œuvre les informations d'identification de contenu de la C2PA, notamment un système d'étiquetage automatique permettant de lire les métadonnées d'une vidéo et de la signaler comme étant une IA. Avec le lancement de Content Credentials pour les plateformes Google, YouTube est sur le point de suivre ses traces.

Google a fait entendre sa voix au sujet de l'étiquetage et de la réglementation généralisés de l'IA, en particulier dans le cadre de ses efforts pour freiner la propagation de la désinformation. En 2023, Google a lancé SynthID, son propre outil de tatouage numérique conçu pour aider à détecter et à suivre le contenu généré par l'IA à l'aide du générateur de texte en image de Google DeepMind, Imagen. Il a introduit des mandats d'étiquetage de l'IA (limités) pour les vidéos YouTube plus tôt cette année et s'est engagé à lutter contre le contenu deepfake généré par l'IA dans la recherche Google.

L'entreprise a rejoint le comité directeur du C2PA en février, un groupe qui comprend d'autres acteurs majeurs de l'industrie et même des organismes de presse, comme la BBC.