Erin Reddick, fondatrice de ChatBlackGPT, s'attaque aux préjugés raciaux de l'IA grâce à une innovation culturellement inclusive
Apporter une conscience culturelle à l’intelligence artificielle.
La course à l’intelligence artificielle est très diversifiée, les chatbots étant parmi les plus connus. Cependant, les experts ont constaté que ces modèles d’IA familiers présentent souvent des défauts importants, notamment des biais. L’un des problèmes omniprésents est celui des préjugés raciaux, où les systèmes d’IA ont du mal à répondre avec précision aux questions liées aux communautés de couleur. C’est là qu’intervient ChatBlackGPT, un chatbot culturellement informé conçu pour remettre en question et traiter les préjugés de l’IA.
Lancé le 19 juin, largement connu sous le nom de Juneteenth, un jour férié fédéral commémorant l'émancipation des esclaves aux États-Unis, ChatBlackGPT vise à créer une expérience d'IA plus inclusive.
Près de trois mois après le lancement du chatbot culturellement inclusif, la PDG et fondatrice Erin Reddick, 30 ans, s'est entretenue avec Indigo Buzz à propos de la plateforme et de son parcours dans le monde de la technologie.
Indigo Buzz : Qu'est-ce que ChatBlackGPT ?
Erin Reddick:ChatBlackGPT est une IA informée sur la culture. C'est une IA générative qui s'appuie sur la reconnaissance du racisme social, économique et systémique, ainsi que sur la diaspora des Noirs et des personnes de couleur en Amérique. C'est une opportunité pour les personnes de couleur d'avoir des conversations pertinentes avec l'IA.
Quelle était votre expérience avec l’IA et la technologie avant de fonder ChatBlackGPT ?
Cela fait environ cinq ans que je travaille ensemble. Entre Amazon, Microsoft et AWS… ce fut un parcours incroyable. C'est toujours inspirant de travailler avec les personnes les plus brillantes qui soient, et il est vrai que cela peut être assez isolant. Il faut avoir la peau dure et savoir qui l'on est pour réussir dans ce domaine. Mais cela a fait de moi la personne que je suis aujourd'hui, qui peut s'approprier sa propre histoire dans le domaine technologique et se sentir en confiance pour le faire.
Pourquoi avez-vous décidé de créer ChatBlackGPT et comment avez-vous procédé pour le créer ?
J'aime toujours dire un mot : le racisme. Honnêtement. Parce que si ce n'était pas le cas, ce que je fais n'aurait pas de raison d'être et ne serait pas célébré et apprécié comme il l'est.
Par exemple, si vous demandez aux dirigeants d’aujourd’hui ce qu’ils pensent de la technologie, beaucoup d’entre eux vous diront qu’elle présente peu de risques. Mais en réalité, elle n’est pas faible pour les personnes noires et brunes, car les préjugés qui persistent affectent notre vie quotidienne, au travail et en dehors. C’est une technologie à haut risque pour nous, et je veux construire quelque chose pour que nous ne restions pas coincés à attendre une politique obligeant les entreprises à atténuer les risques et à souffrir en attendant.
Pouvez-vous décortiquer le rôle des biais dans l’IA ?
Les préjugés sont partout et il est impossible de s’en débarrasser complètement. Si vous demandez à un chatbot ordinaire, comme je l’ai fait, « Qu’est-ce qu’un emploi noir ? », il vous répondra qu’il s’agit d’un travail au noir, d’un trafic de drogue non taxé et sans avantages sociaux. Mais lorsque vous demandez « Qu’est-ce qu’un emploi blanc ? », il répondra qu’il s’agit généralement d’un emploi instruit, assuré, légal et payant des impôts. Même si cela ne semble pas être un préjugé de l’extérieur, cela confirme en fait un préjugé que beaucoup de gens ont des complexes racistes ou de supériorité et des opinions – cela confirme leur préjugé contre les Noirs. C’est offensant parce que nous sommes des Noirs qui occupons n’importe quel emploi, pas seulement ceux que l’IA décrit.
Qu'est-ce que « l'IA responsable » ?
Je le décrirais comme un ensemble de données propres et diversifiées, un système qui contribue à atténuer les risques ou qui fonctionne de manière responsable sans nuire aux personnes, qui est juste et qui ne donne pas la capacité d'être destructeur.
Il est développé en gardant à l'esprit le red teaming et les mauvais acteurs afin que vous puissiez vous assurer que les personnes qui vont en profiter de manière négative ne le pourront pas. Le construire de manière responsable pour avoir une conception inclusive. L'utiliser de manière responsable, c'est avant tout ne pas le prendre au pied de la lettre et lui faire confiance immédiatement. Assurez-vous également de vérifier ce que vous regardez, puis ne mettez pas vos informations personnelles dans ces systèmes juste pour comprendre à quel point ils sont puissants, et demandez-vous également : « Combien de défauts peuvent-ils avoir ? »
Comment ChatBlackGPT s'est-il comporté depuis son lancement le 19 juin ?
C'est une bonne chose. Nous avons notre version bêta sur la boutique personnalisable d'Open AI, et nous sommes passés de 1 000 à 5 000 utilisateurs depuis le lancement. Nous avons une note de 4,6, ce qui est, je pense, une bonne chose car nous n'avons pas de données propriétaires personnalisables. Notre application autonome se porte également bien : environ 2 000 personnes ont accès à l'outil, et nous la développons actuellement avec des informations propriétaires, en collaboration avec des historiens et d'autres experts pour nous assurer qu'elle reflète correctement notre société actuelle et de manière utile.
Quels sont les avantages d’avoir une expérience d’IA personnalisée, ou au moins plus spécifique à sa culture ?
Lorsque les gens découvrent une culture, il est très important que celle-ci ne soit pas diluée et racontée à travers une perspective fragile ou en effaçant les réalités de la véritable histoire de toute culture. Il est très important de respecter le fait que l'histoire perdure dans la façon dont nos systèmes fonctionnent, dans la façon dont les gens sont traités dans la société et (montre) pourquoi les choses sont comme elles sont. Des choses comme la théorie critique de la race existent pour une raison.
Vous pouvez donc imaginer qu'il est très important d'avoir une IA qui reconnaisse l'état actuel de la culture et de l'histoire. La plupart des retours que je reçois indiquent que les gens ont déjà demandé à l'IA de répondre à plusieurs reprises pour obtenir une réponse qui correspondait réellement à ce qu'ils recherchaient. Même s'ils ne créaient que du contenu pour des publics divers, la diversité ne se limite pas aux personnes LGBTQ, sourdes ou autres. Cela signifie également que lorsque je cherche à créer une publicité pour un produit capillaire, elle comprend les porosités et les motifs de boucles, et toutes ces informations pertinentes étant automatiquement intégrées à une IA, cela crée une sécurité psychologique au sein de la technologie.
En quoi ChatBlackGPT est-il différent des autres produits d’IA sensibles ou conscients de la culture ?
Tout d’abord, il n’y en a pas beaucoup. Mais ce qui nous différencie, c’est que nous ne nous concentrons pas uniquement sur l’histoire racontée. Nous capturons également l’histoire noire contemporaine, moderne, afin de ne pas laisser Dieu sait qui écrire un livre et réécrire l’histoire. Cependant, nous cherchons à consolider l’histoire aujourd’hui avec nos voix pour influencer les politiques, influencer les risques, l’atténuation et la dégradation des personnes noires et brunes dans l’IA.
Nous voulons également nous assurer que le projet représente la communauté avec un design véritablement inclusif. Nous n'avons pas seulement un groupe de personnes qui travaillent en arrière-plan, que vous ne rencontrez jamais et que vous ne voyez jamais, à moins qu'elles ne soient furtives. Mais nous invitons réellement les gens à contribuer, et ils peuvent se voir reflétés dans ce que nous faisons.
Pourquoi avez-vous choisi de nommer votre produit ChatBlackGPT ?
C'est comme discuter avec un groupe de personnes noires au lieu du GPT eurocentrique typique que l'on rencontre le plus souvent. C'est évident de quoi il s'agit et personne ne s'y trompe.
Quand l’idée de ChatBlackGPT est-elle née et comment a-t-elle évolué depuis son lancement ?
L’idée m’est venue après avoir été licenciée. Je cherchais à prendre en main ma relation avec la technologie. Je ne voulais vraiment pas que le fait d’avoir ou non un emploi dans une grande entreprise technologique prestigieuse détermine si je suis une femme noire dans le domaine de la technologie. J’ai donc récupéré mon identité en étudiant l’IA et en m’entourant de certaines des meilleures personnes qui sont des experts dans ce domaine.
Mais avant cela Je venais de faire mes recherches habituelles et j'ai remarqué que de nombreux articles sur l'IA effaçait l'histoire des Noirs. Puis j'ai réalisé que l'IA était présente dans de nombreux produits et qu'elle causait et créait beaucoup de torts à la communauté noire depuis longtemps, ce qui m'a beaucoup attristé. Et puis la troisième partie qui m'a fait comprendre ce problème, c'est que les Noirs ont réalisé à quel point la situation était mauvaise et à quel point elle l'était encore. J'ai donc écrit un algorithme très puissant qui reflète et est capable de produire des réponses en fonction du contexte pertinent pour notre communauté.
Pourquoi avez-vous pensé qu’il était important de se concentrer uniquement sur la communauté noire plutôt que, plus largement, sur les communautés de couleur ?
Parce que je suis un expert en la matière. C'est la seule expérience que je puisse personnellement valider, et pour tester un produit, je pense qu'il faut des experts dédiés à cette tâche. C'est donc ce que je pensais pouvoir faire avec le plus de confiance. Nous nous étendons à d'autres cultures et cherchons à impliquer différentes communautés et comités de consensus culturel pour développer cette représentation pour autant de cultures que possible.
Comment former cette IA pour ChatBlackGPT ?
Vous ne pouvez pas prétendre représenter une communauté à laquelle vous ne parlez pas.
Avez-vous des partenariats pour ChatBlackGPT ?
Nous collaborons avec toute personne désireuse d'en savoir plus sur l'importance de ce travail. Par exemple, 11 Labs sponsorise notre contenu de voix off IA. Je suis professeur d'IA responsable à l'Université de Washington, ainsi qu'à Emerson.
Pourquoi est-il important de nouer des partenariats avec les HBCU ? Et en quoi consistent ces partenariats ?
Je dois actuellement prendre la parole à la conférence nationale HBCU de la Maison Blanche. Nous cherchons à recruter des stagiaires qui, je l'espère, seront parrainés pour venir nous aider à développer ce produit. J'aimerais qu'ils produisent un livre blanc sur cette expérience, et qu'ils puissent l'utiliser sur leur CV. Ils peuvent l'utiliser pour décrocher un emploi ou travailler dans l'IA. Mais je veux donner aux gens la possibilité de contribuer à quelque chose qu'ils ne peuvent pas facilement obtenir, mais dont ils peuvent voir immédiatement les effets.
Quelles sont les prochaines étapes pour ChatBlackGPT ?
Nous poursuivons nos activités en personne pour écouter la communauté et nous assurer que nos voix sont entendues. Nous continuerons à participer à différentes conférences et à faire passer le message, tout en veillant à ce que le produit puisse rester entre les mains des personnes qui en ont besoin.
Y a-t-il autre chose que vous souhaitez ajouter ?
Les gens devraient l'essayer ! La version bêta de ChatBlackGPT est disponible sur la boutique personnalisable d'Open AI. Il vous suffit de rechercher des GPT et notre outil est ChatBlackGPT.ai. Vous pouvez donc utiliser les deux, mais l'essentiel est qu'il soit fait pour nous et par nous. Je veux qu'ils l'utilisent à leur avantage et qu'ils en profitent.
