Rejoignez-nous
Divers

Google s’excuse après que Gemini AI ait généré des images de nazis en tant que personnes de couleur

Pierre

Date de publication :

le

Google s'excuse après que Gemini AI ait généré des images de nazis en tant que personnes de couleur

La société a mis l’outil en pause après avoir constaté qu’il créait des images historiquement inexactes.

Google a suspendu la capacité de son outil Gemini AI (anciennement Bard) à générer des images de personnes. La société a également présenté des excuses après que l’outil ait généré des illustrations historiquement inexactes, notamment des représentations de soldats nazis comme des personnes de couleur.

Comme le rapporte The Verge, un certain nombre de messages différents ont amené le robot à répondre avec des inexactitudes historiques. Des personnes de couleur auraient été montré dans les illustrations offert pour des questions sur les soldats allemands en 1943, ainsi que pour des demandes de présentation de sénateurs américains dans les années 1800.

« Nous travaillons déjà pour résoudre les problèmes récents liés à la fonctionnalité de génération d’images de Gemini », a déclaré Google sur X. « Pendant ce temps, nous allons suspendre la génération d’images de personnes et publierons bientôt une version améliorée. »

Dans une déclaration antérieure, Google avait confirmé que la génération d’images IA de Gemini génère un large éventail de personnes.

« C’est généralement une bonne chose car les gens du monde entier l’utilisent », a déclaré Google. « Mais ici, il manque la cible. »

Il a été constaté que les générateurs d’images d’IA perpétuent les stéréotypes racistes, et l’un des principes de Google en matière d’IA est « d’éviter de créer ou de renforcer des préjugés injustes ». Mais comme Jack Krawczyk, qui travaille sur Gemini, l’a souligné sur X, « les contextes historiques sont plus nuancés ».

« Dans le cadre de nos principes d’IA, nous concevons nos capacités de génération d’images pour refléter notre base d’utilisateurs mondiale, et nous prenons la représentation et les préjugés au sérieux », a écrit Krawzyk. « Nous continuerons à le faire pour les invites ouvertes. »

Pierre, plus connu sous son pseudonyme "Pierrot le Fou", est un rédacteur emblématique du site Indigo Buzz. Originaire d'une petite ville du sud-ouest du Gers, cet aventurier des temps modernes est né sous le signe de l'ombre en 1986 au sommet d'une tour esotérique. Élevé dans une famille de magiciens-discount, il a développé un goût prononcé pour l'excentricité et la magie des mots dès son plus jeune âge. Pierre a commencé sa carrière de rédacteur dans un fanzine local dédié aux films d'horreur des années 80, tout en poursuivant des études de communication à l'Université de Toulouse. Passionné par l'univers du web, il a rapidement pris conscience de l'impact du numérique et des réseaux sociaux sur notre société. C'est alors qu'il a décidé de troquer sa collection de cassettes VHS contre un ordinateur flambant neuf... enfin presque.

Cliquer pour commenter

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Copyright © 2014-2023 - Indigo Buzz, site d'actualité collaboratif abordant les sujets comme l'high-tech, le web, les jeux vidéo, lifestyle ou encore le mobile !