Comment identifier les images générées par l'IA

Parfois, le meilleur détecteur d’images IA est vos yeux.

Tout d’abord, la mauvaise nouvelle : il est très difficile de détecter les images générées par l’IA. Les signes révélateurs qui étaient autrefois révélateurs (mains déformées et texte confus) sont de plus en plus rares à mesure que les modèles d’IA s’améliorent à un rythme effréné.

Il n’est plus évident de savoir quelles images sont créées à l’aide d’outils populaires comme Midjourney, Stable Diffusion, DALL-E et Gemini. En fait, les images générées par l’IA commencent à tromper encore plus les gens, ce qui a créé des problèmes majeurs dans la diffusion de fausses informations. La bonne nouvelle est qu’il n’est généralement pas impossible d’identifier les images générées par l’IA, mais cela demande plus d’efforts qu’auparavant.

Détecteurs d'images IA – procédez avec prudence

Ces outils utilisent la vision par ordinateur pour examiner les motifs de pixels et déterminer la probabilité qu'une image soit générée par l'IA. Cela signifie que les détecteurs d'IA ne sont pas totalement infaillibles, mais c'est un bon moyen pour une personne moyenne de déterminer si une image mérite un examen approfondi, en particulier lorsque cela n'est pas immédiatement évident.

« Malheureusement, pour l’œil humain, et des études ont été réalisées, la probabilité qu’une personne en soit atteinte est d’environ 50 % », a déclaré Anatoly Kvitnitsky, PDG de la plateforme de détection d’images AI or Not. « Mais pour la détection d’images par IA, en raison des motifs ressemblant à des pixels, ceux-ci existent toujours, même si les modèles continuent de s’améliorer. » Kvitnitsky affirme qu’AI or Not atteint un taux de précision moyen de 98 %.

D'autres détecteurs d'IA qui ont généralement des taux de réussite élevés incluent Hive Moderation, SDXL Detector on Hugging Face et Illuminarty. Nous avons testé dix images générées par l'IA sur tous ces détecteurs pour voir comment ils s'en sortaient.

IA ou pas

Contrairement à d'autres détecteurs d'images IA, AI or Not donne un simple « oui » ou « non », mais il indique correctement que l'image a été générée par l'IA. Avec le forfait gratuit, vous bénéficiez de 10 téléchargements par mois. Nous avons essayé avec 10 images et avons obtenu un taux de réussite de 80 %.

Modération de la ruche

Nous avons testé l'outil de démonstration gratuit de Hive Moderation avec plus de 10 images différentes et obtenu un taux de réussite global de 90 %, ce qui signifie qu'elles avaient une forte probabilité d'être générées par l'IA. Cependant, il n'a pas réussi à détecter les qualités d'IA d'une image artificielle d'une armée de tamias escaladant un mur de pierre.

Détecteur SDXL

Le détecteur SDXL sur Hugging Face prend quelques secondes à charger, et vous pourriez initialement obtenir une erreur lors du premier essai, mais il est entièrement gratuit. Il donne également un pourcentage de probabilité à la place. Il a déclaré que 70 % des images générées par l'IA avaient une forte probabilité d'être une IA générative.

Illumination

Illuminarty propose un plan gratuit qui permet une détection d'images de base par IA. Sur les 10 images générées par l'IA que nous avons téléchargées, seules 50 % ont été classées comme ayant une probabilité très faible. Au grand désespoir des biologistes spécialistes des rongeurs, la fameuse image de la bite de rat a été classée comme ayant une faible probabilité d'être générée par l'IA.

Comme vous pouvez le constater, les détecteurs d'IA sont généralement assez performants, mais pas infaillibles et ne doivent pas être utilisés comme seul moyen d'authentifier une image. Parfois, ils sont capables de détecter des images trompeuses générées par l'IA même si elles semblent réelles, et parfois ils se trompent avec des images qui sont clairement des créations de l'IA. C'est exactement pourquoi une combinaison de méthodes est la meilleure.

Autres trucs et astuces

La bonne vieille recherche d'image inversée

Une autre façon de détecter les images générées par l'IA est la recherche d'image inversée, comme le recommande Bamshad Mobasher, professeur d'informatique et directeur du Center for Web Intelligence au DePaul University College of Computing and Digital Media de Chicago. En téléchargeant une image sur Google Images ou un outil de recherche d'image inversée, vous pouvez retracer la provenance de l'image. Si la photo montre un événement d'actualité apparemment réel, « vous pourrez peut-être déterminer qu'il s'agit d'un faux ou que l'événement réel n'a pas eu lieu », a déclaré Mobasher.

Outil « À propos de cette image » de Google

Google Search propose également une fonctionnalité « À propos de cette image » qui fournit des informations contextuelles telles que la date de la première indexation de l'image et les autres endroits où elle est apparue en ligne. Pour y accéder, cliquez sur l'icône à trois points dans le coin supérieur droit d'une image.

Des signes révélateurs que l’œil nu peut repérer

En parlant de cela, même si les images générées par l'IA deviennent effrayantes, il vaut toujours la peine de rechercher les signes révélateurs. Comme mentionné ci-dessus, vous pouvez encore voir occasionnellement une image avec des mains déformées, des cheveux qui semblent un peu trop parfaits ou du texte dans l'image qui est brouillé ou absurde. Le site frère PCMag recommande de rechercher en arrière-plan des objets flous ou déformés, ou des sujets avec une peau parfaite – et nous voulons dire sans pores, parfaite.

À première vue, l'image Midjourney ci-dessous ressemble à un membre de la famille Kardashian faisant la promotion d'un livre de cuisine qui pourrait facilement provenir d'Instagram. Mais en y regardant de plus près, on peut voir le pot de sucre tordu, les articulations déformées et la peau un peu trop lisse.

« L’IA peut être efficace pour générer une scène globale, mais le diable est dans les détails », a écrit Sasha Luccioni, responsable de l’IA et du climat chez Hugging Face, dans un e-mail adressé à Indigo Buzz. Recherchez « principalement de petites incohérences : des doigts supplémentaires, des bijoux ou des traits du visage asymétriques, des incohérences dans les objets (une poignée supplémentaire sur une théière) ».

Mobasher, qui est également membre de l'Institute of Electrical and Electronics Engineers (IEEE), a conseillé de zoomer et de rechercher des « détails étranges » comme des pixels parasites et d'autres incohérences, comme des boucles d'oreilles subtilement dépareillées.

« Il est possible qu'une partie de la même image, avec la même mise au point, soit floue, mais qu'une autre partie soit extrêmement détaillée », a déclaré Mobasher. Cela est particulièrement vrai pour les arrière-plans des images. « Si vous avez des panneaux avec du texte et des choses comme ça en arrière-plan, ils finissent souvent par être brouillés ou parfois même pas comme une langue réelle », a-t-il ajouté.

Cette image d'un défilé de camionnettes Volkswagen sur une plage a été créée par Imagen 3 de Google. Le sable et les bus semblent parfaitement photoréalistes. Mais regardez de plus près et vous remarquerez que le lettrage sur le troisième bus, là où devrait se trouver le logo VW, n'est qu'un symbole brouillé, et qu'il y a des taches amorphes sur le quatrième bus.

Tout se résume à la maîtrise de l’IA

Aucune des méthodes ci-dessus ne sera vraiment utile si vous ne faites pas une pause lorsque vous consultez des médias, en particulier les médias sociaux, pour vous demander si ce que vous voyez est généré par l'IA. Tout comme l'éducation aux médias, qui est devenue un concept populaire autour de la campagne électorale de 2016, marquée par la désinformation, l'éducation à l'IA est la première ligne de défense pour déterminer ce qui est réel ou non.

Les chercheurs en IA Duri Long et Brian Magerko définissent la maîtrise de l'IA comme « un ensemble de compétences qui permettent aux individus d'évaluer de manière critique les technologies de l'IA, de communiquer et de collaborer efficacement avec l'IA et d'utiliser l'IA comme un outil en ligne, à la maison et sur le lieu de travail ».

Il est essentiel de savoir comment fonctionne l’IA générative et ce qu’il faut rechercher. « Cela peut sembler cliché, mais prendre le temps de vérifier la provenance et la source du contenu que vous voyez sur les réseaux sociaux est un bon début », a déclaré Luccioni.

Commencez par vous interroger sur la source de l'image en question et sur le contexte dans lequel elle apparaît. Qui a publié l'image ? Que dit le texte qui l'accompagne (le cas échéant) à son sujet ? D'autres personnes ou médias ont-ils publié l'image ? Que ressentez-vous face à l'image ou au texte qui l'accompagne ? Si elle semble avoir été conçue pour vous mettre en colère ou vous séduire, réfléchissez aux raisons qui l'ont poussée à le faire.

Comment certaines organisations luttent contre le problème des deepfakes et de la désinformation liés à l'IA

Comme nous l’avons vu, les méthodes permettant aux individus de distinguer les images générées par l’IA des images réelles sont jusqu’à présent inégales et limitées. Pire encore, la diffusion d’images illicites ou nuisibles générées par l’IA est un double coup dur, car les publications véhiculent des faussetés, qui suscitent ensuite la méfiance envers les médias en ligne. Mais dans le sillage de l’IA générative, plusieurs initiatives ont vu le jour pour renforcer la confiance et la transparence.

La Coalition for Content Provenance and Authenticity (C2PA) a été fondée par Adobe et Microsoft et regroupe des entreprises technologiques comme OpenAI et Google, ainsi que des sociétés de médias comme Reuters et la BBC. La C2PA fournit des informations d'identification de contenu cliquables pour identifier la provenance des images et si elles sont générées par l'IA. Cependant, il appartient aux créateurs d'associer les informations d'identification de contenu à une image.

De son côté, le Starling Lab de l’université de Stanford travaille dur pour authentifier les images réelles. Le Starling Lab vérifie les « documents numériques sensibles, tels que les documents relatifs aux violations des droits de l’homme, aux crimes de guerre et aux témoignages de génocide », et stocke en toute sécurité les images numériques vérifiées dans des réseaux décentralisés afin qu’elles ne puissent pas être falsifiées. Le travail du laboratoire n’est pas destiné aux utilisateurs, mais sa bibliothèque de projets constitue une bonne ressource pour quelqu’un qui cherche à authentifier des images de la guerre en Ukraine ou de la transition présidentielle de Donald Trump à Joe Biden, par exemple.

Les experts évoquent souvent les images d'IA dans le contexte de canulars et de désinformation, mais les images d'IA ne sont pas toujours destinées à tromper en soi. Les images d'IA ne sont parfois que des blagues ou des mèmes retirés de leur contexte d'origine, ou bien des publicités paresseuses. Ou peut-être qu'elles ne sont qu'une forme d'expression créative avec une nouvelle technologie intrigante. Mais pour le meilleur ou pour le pire, les images d'IA font désormais partie de la vie. Et c'est à vous de les détecter.