Google s’excuse après que Gemini AI ait généré des images de nazis en tant que personnes de couleur
La société a mis l’outil en pause après avoir constaté qu’il créait des images historiquement inexactes.
Google a suspendu la capacité de son outil Gemini AI (anciennement Bard) à générer des images de personnes. La société a également présenté des excuses après que l’outil ait généré des illustrations historiquement inexactes, notamment des représentations de soldats nazis comme des personnes de couleur.
Comme le rapporte The Verge, un certain nombre de messages différents ont amené le robot à répondre avec des inexactitudes historiques. Des personnes de couleur auraient été montré dans les illustrations offert pour des questions sur les soldats allemands en 1943, ainsi que pour des demandes de présentation de sénateurs américains dans les années 1800.
« Nous travaillons déjà pour résoudre les problèmes récents liés à la fonctionnalité de génération d’images de Gemini », a déclaré Google sur X. « Pendant ce temps, nous allons suspendre la génération d’images de personnes et publierons bientôt une version améliorée. »
Dans une déclaration antérieure, Google avait confirmé que la génération d’images IA de Gemini génère un large éventail de personnes.
« C’est généralement une bonne chose car les gens du monde entier l’utilisent », a déclaré Google. « Mais ici, il manque la cible. »
Il a été constaté que les générateurs d’images d’IA perpétuent les stéréotypes racistes, et l’un des principes de Google en matière d’IA est « d’éviter de créer ou de renforcer des préjugés injustes ». Mais comme Jack Krawczyk, qui travaille sur Gemini, l’a souligné sur X, « les contextes historiques sont plus nuancés ».
« Dans le cadre de nos principes d’IA, nous concevons nos capacités de génération d’images pour refléter notre base d’utilisateurs mondiale, et nous prenons la représentation et les préjugés au sérieux », a écrit Krawzyk. « Nous continuerons à le faire pour les invites ouvertes. »
