Google lance SynthID, un filigrane d’image IA invisible à l’œil nu
Deepfakes, facilement identifiables.
Le problème avec les images créées par l’IA est que l’IA crée des images. Cela signifie qu’une simple invite peut créer une image relativiste réaliste de n’importe quoi. Il n’est pas difficile d’imaginer les problèmes qui pourraient en découler.
Google a annoncé mardi une fonctionnalité appelée SynthID qui vise à lutter contre les deepfakes et l’utilisation abusive des images générées par l’IA. Google DeepMind a lancé une version bêta de l’outil qui, selon la société, « intègre un filigrane numérique directement dans les pixels d’une image, la rendant imperceptible à l’œil humain, mais détectable pour l’identification ».
En d’autres termes, à sa surface, l’image générée par l’IA semblera normale en surface, mais comportera un marqueur facilement identifiable pour indiquer aux gens qu’il ne s’agit pas d’une image authentique. À l’heure actuelle, SynthID a été proposé à un « nombre limité » de clients utilisant Imagen, le modèle de Google Deepmind qui utilise des invites textuelles pour créer des images photoréalistes.
Google a déclaré que SynthID devrait être plus efficace que les filigranes traditionnels, qui sont plus facilement supprimés, rognés ou sont une horreur sur une image. Le filigrane SynthID doit rester visible même après l’ajout de filtres, la modification des couleurs ou le redimensionnement d’une image. L’outil SynthID devrait être en mesure de permettre aux utilisateurs de savoir si Imagen a été utilisé ou non pour créer une image à l’aide d’un système de niveaux de confiance à trois niveaux – probable, improbable et éventuellement détecté.
À l’avenir, Google a déclaré qu’il pourrait étendre l’outil pour pouvoir identifier les images d’autres modèles et qu’il pourrait intégrer l’outil SynthID dans d’autres produits qu’il propose.
