Une startup développe une IA qui fait ressembler les employés des centres d’appels à des robots américains blancs

Sanas prétend lutter contre les préjugés avec… ça ?

Les startups de la Silicon Valley semblent parfois s’être donné pour objectif de proposer les utilisations les plus dystopiques de l’intelligence artificielle. Plus tôt ce mois-ci, nous avons eu le chatbot raciste de Meta et le rappeur généré par l’IA qui utilise le mot n, avant cela, en juin, nous avons entendu parler de l’IA de Google si bien qu’il a convaincu un ingénieur qu’il était sensible. Cette fois-ci, la startup Sanas, basée à Palo Alto, a présenté au monde une IA dans le but de rendre les employés des centres d’appels étrangers neutres en termes d’accent et de les rendre blancs.

Tel que rapporté par SFGATE, Sanas est une startup qui propose une « traduction d’accent » aux employés des centres d’appels, un travail qui a tendance à être externalisé vers des marchés étrangers moins chers comme l’Inde et les Philippines. Sanas, qui a été fondée par trois diplômés de Stanford, propose un service de traduction d’accent en temps réel, censé faciliter la compréhension des employés des centres d’appels. Il a déjà reçu plus de 30 millions de dollars en financement de capital-risque.

« Nous ne voulons pas dire que les accents sont un problème parce que vous en avez un », a déclaré le président de Sanas, Marty Sarim, à SFGATE. « Ils ne sont un problème que parce qu’ils causent des préjugés et qu’ils causent des malentendus. »

Sur la base de la démo, vous pouvez essayer sur le site Web de Sanas où vous pouvez « entendre la magie », cela fonctionne vraiment. Non seulement le logiciel supprime l’accent, mais il remplace la voix par quelque chose de robotique troublant semblable à un accent anglais américain standard. Selon son site Web, Sanas pense que cela permettra aux employés du centre d’appels de » reprendre le pouvoir de leur propre voix. »

Une comparaison courante avec l’IA de Sanas a été le film de 2018 Désolé de vous déranger où le personnage principal, un homme noir, adopte une « voix blanche » afin de générer plus de ventes dans son travail de centre d’appels dystopique. Alors que Sanas déclare que son IA est destinée à lutter contre les préjugés, les critiques affirment que la « traduction d’accent » est un autre moyen de déshumaniser un travail déjà déshumanisant.

« En surface, cela reflète des difficultés de communication – les gens ne peuvent pas comprendre le discours de quelqu’un d’autre », a déclaré Winifred Poster, professeur de sociologie à l’Université de Washington à St. Louis à SFGATE. « Mais, vraiment, c’est codé pour tout un tas d’autres problèmes sur la façon dont l’accent déclenche le racisme et l’ethnocentrisme. »

L’IA de Sanas qui n’a pas l’air humaine n’aide pas beaucoup non plus. Selon Kiran Mirchandani de l’Université de Toronto, dont les recherches portaient sur le traitement des employés des centres d’appels indiens, elle a déclaré à SFGATE que les personnes déjà prédisposées à diffuser des abus racistes aux employés des centres d’appels n’apprécieraient pas non plus une voix robotique sur le téléphone non plus.

« Le racisme envers les clients est susceptible d’augmenter si les travailleurs sont davantage déshumanisés lorsqu’une » application « est placée entre le travailleur et le client, d’autant plus qu’il y aura sans aucun doute des erreurs commises par l’application », a-t-elle déclaré à SFGATE.

Le président de Sanas, Sarim, a souligné dans son entretien avec SFGATE que les travailleurs auront le choix d’utiliser ou non la traduction de l’accent de l’IA. Cependant, ceux qui connaissent l’exploitation qui se produit dans l’industrie des centres d’appels étrangers pensent que si la technologie s’avère efficace, les travailleurs n’auront pas vraiment le choix.

« Il n’y a pratiquement rien dans le processus de travail des centres d’appels qui implique un choix par les travailleurs en termes de technologie », a déclaré Poster à SFGATE. Déjà, les travailleurs sont soumis à une surveillance profondément invasive, ce qui rend presque impossible d’avoir une conversation authentique avec des personnes à l’autre bout. »