L’exclusion des voix autochtones par AI est une histoire qui se répète

La stratège créative Meggan Van Harten parle du rôle de l’IA inclusive dans l’accessibilité et la préservation culturelle.

L’arène mondiale de la conception et de la mise en œuvre de l’IA continue de se diversifier, avec un intérêt croissant pour l’IA générative conviviale qui mène sa croissance. Toujours en incubation : le rôle de l’IA dans la promotion d’espaces accessibles, à la fois en ligne et hors ligne.

Meggan Van Harten est leader stratégique et associée chez Design de Plume, une agence de création autochtone dirigée par des femmes et basée au Canada. L’éthique commerciale et de conception de Design de Plume intègre ce que Van Harten appelle un « kaléidoscope » de diverses lentilles mondiales : l’indigénéité, l’inclusivité, la diversité, l’équité, la durabilité et l’accessibilité. L’entreprise a été créée à la suite des débuts de carrière de Van Harten en tant que graphiste, après qu’elle et ses cofondateurs aient cherché à ajouter une perspective au design numérique qui manquait au grand public.

Design de Plume intègre ces principes directement dans le cadre de services et de solutions comme la conception de sites, comme son travail récent avec les APCA (aires protégées et conservées autochtones) Knowledge Basket, une plateforme numérique de partage d’informations pour les voies de conservation dirigées par les Autochtones au Canada. L’entreprise a reçu le DNA Paris Design Award 2023 pour ce projet.

Dans son travail de stratège et de conférencière, Van Harten garde un œil attentif sur l’accessibilité autochtone en particulier. Le concepteur basé en Ontario affirme que l’exclusion des modèles culturels et linguistiques des peuples autochtones dans les normes d’accessibilité et leur conformité a laissé d’énormes lacunes dans la rendre les communications accessibles aux communautés autochtones.

Et même avec le boom de l’IA qui annonce une nouvelle vague d’innovation technologique et d’automatisation, l’écart ne se réduit pas – en fait, il semble se creuser.

En tant que collaborateurs dans la conception de technologies et d’espaces numériques, Van Harten et ses collègues exhortent davantage de personnes à évaluer l’ensemble du système d’accessibilité afin de se demander comment les technologies d’assistance, les services Web et même les outils basés sur l’IA (comme les transcriptions en direct et la génération d’images) ) peut être plus significatif pour les groupes autochtones et tenir compte de leurs besoins.

Lors d’une conversation sur ce travail et cette mission, Van Harten a parlé à Chase DiBenedetto de Indigo Buzz des échecs dans la création de l’IA, de la nécessité de faire évoluer les normes d’accessibilité et de la manière dont l’intégration des perspectives autochtones devrait être parmi les premières étapes de l’innovation technologique.

Indigo Buzz : À quoi ressemble « l’incorporation de l’indigénéité » dans votre travail ?

Van Harten : Il y a cette idée de « vision à deux yeux », qui utilise à la fois le meilleur des principes occidentaux et le savoir autochtone. Vous utilisez vos deux yeux pour accomplir cette tâche. Cela fait partie intégrante de la culture de Design de Plume, mais aussi de la culture du bon design : tirer le meilleur des deux mondes. J’aime le terme « Open Cup » ou « Empty Cup » : laisser d’autres personnes vous transmettre leurs connaissances afin que vous puissiez donner une bonne solution à la fin de la journée. Ce n’est pas un nouveau concept. Cela semble nouveau pour les entreprises américaines, mais ce n’est vraiment pas le cas. C’est vraiment fondamental pour la façon autochtone de savoir.

Par exemple, la façon dont nous menons nos séances d’engagement avec nos clients. Nous disons toujours qu’il s’agit plutôt d’un cercle – personne n’est aux commandes ni au-dessus de l’autre, chaque voix doit être représentée de manière égale – de cette façon, nous sommes en mesure de créer un environnement plus inclusif et de nous concentrer sur cette idée que nous sommes un projet. -résoudre ensemble. En tant qu’agence, nous n’arrivons pas avec des tendances de conception ou des outils de conception qui ont fonctionné dans le passé. Cela n’est peut-être pas vrai pour tous les groupes des Premières Nations ou tous les groupes autochtones que vous rencontrez. Vous devez être vraiment ouvert à devenir un espace sûr et ouvert permettant aux gens de collaborer avec vous.

Vous avez constaté que les groupes autochtones sont souvent exclus de la conception accessible, en particulier dans le cadre du développement de nouveaux outils d’IA.

En termes d’IA, cela a été extrêmement difficile. Il y a tellement de préjugés dans la technologie, dans la manière dont elle est développée. Les peuples autochtones ne sont pas consultés lorsqu’il s’agit de trouver des solutions. Ce que je veux dire par là, c’est que s’ils sont invités, ils le sont à la fin du projet et on leur demande : « Est-ce que ça passe ? Ce n’est pas un bon engagement. Vous devez impliquer ces personnes dès le début, leur expliquer le problème, les impliquer dans la résolution du problème et les récompenser pour ces efforts. Certaines des difficultés liées au sous-titrage, par exemple, comme la reconnaissance automatique de la parole, ont été extrêmement difficiles à résoudre.

Pouvez-vous nous expliquer en quoi le sous-titrage en direct, ou plus largement la reconnaissance automatique de la parole, échoue dans ces communautés ?

Par exemple, je viens de télécharger la transcription d’une présentation en direct que j’ai faite, et cela a changé un mot de « Anishinaabe », qui est un grand groupe de peuples autochtones, en « Honest Nabi ». Cela a donc complètement déformé le langage. J’ai mentionné un groupe de personnes, et il ne pouvait même pas comprendre cela. Même s’il existe une traduction directe en anglais… la façon dont fonctionnent les langues autochtones est qu’elles sont extrêmement intentionnelles, chaque lettre et combinaison de lettres a des sous-significations. Il y a tellement de nuances intentionnelles dans ce mot spécifique qui sont manquées, en particulier dans le cas du sous-titrage en direct.

(Dans un récent article de Indigo Buzz sur le rapport 2023 de 3PlayMedia sur l’état de la reconnaissance automatique de la parole, la société de services d’accessibilité) a déclaré que la reconnaissance vocale automatique est précise à environ 90 %, mais doit être plutôt de l’ordre de 99 %. Mais lorsqu’il s’agit de langues autochtones, la précision est littéralement de 0 %. C’est la dure réalité dans laquelle nous vivons. La façon dont nous développons la technologie, concevons des systèmes, toutes ces choses, contribue à une culture de génocide (culturel) supplémentaire et d’effacement des langues.

Le concept de conception universelle, ou l’idée selon laquelle les produits et les espaces doivent être créés en gardant à l’esprit une accessibilité totale dès le départ, est-il une solution ?

Il y a tellement de choses à faire en termes d’élaboration de normes, de lois de conformité, etc. Mais les bases n’existent pas pour les peuples autochtones. Dans le domaine de l’accessibilité, les gens mentionnent assez souvent que la conformité à l’ADA (ou, d’où je viens, à l’AODA) concerne le rez-de-chaussée et non le plafond. Pour les peuples autochtones, il s’agit simplement d’un fossé grand ouvert. Ils tombent simplement dans ce vortex. Il n’existe pas de système de langage accessible dans leurs langues, et il n’y a aucun moyen de développer des outils basés sur deux langues en même temps.

Ce qui est très frustrant, c’est que nous avons les idées là-bas. Les outils sont bons, d’une certaine manière. C’est bien que nous ayons des légendes. C’est terrible qu’il ne puisse pas comprendre, pendant que je l’explique au système, ce que j’essaie réellement de dire.

Je pense qu’avec l’essor de l’IA générative et les investissements réalisés pour son innovation constante, ce problème aurait dû être pris en compte dès maintenant.

Absolument. Pourquoi ne puis-je pas parler à l’IA à l’avance ? Si je dois présenter dans cette langue, laissez-moi vous apprendre à le dire. Mais je ne peux pas faire ça. À l’heure actuelle, la meilleure solution réside dans les transcriptions et le sous-titrage (humain) en direct. C’est formidable, mais de nombreuses organisations n’ont pas le financement nécessaire pour pouvoir proposer des sous-titres en direct. Donc l’avertissement que je dois leur donner est que les sous-titres (automatiques) n’auront aucun sens.

Y a-t-il une raison structurelle à cette déconnexion totale ?

L’accent est vraiment mis sur le soutien à l’accessibilité monolingue, donc vous avez un document en anglais ou un document en français, et il vous le lira en anglais ou en français. Mais que se passe-t-il dans les cercles de langues autochtones où, à cause du génocide et de la discrimination, une partie de la langue a été perdue ? Même si vous développez un système et dites : « Nous pouvons maintenant lire cette page entièrement en anglais et cette page dans cette autre langue autochtone », vous risquez de passer complètement à côté du concept, car il n’existe aucun bon moyen d’intégrer les deux langues dans la même langue. document. Il n’existe aucun moyen de faire cela dans aucune technologie d’accessibilité à l’heure actuelle, car l’accent est mis sur une façon de penser occidentale, selon laquelle tout est séparé.

Avez-vous rencontré ce problème spécifique dans d’autres cas d’utilisation populaires de l’IA, comme la génération d’images ou les chatbots ?

Les logiciels de génération d’images ont été très intéressants dans le domaine de la conception. Vous entendez beaucoup parler de cette chose qui peut « Photoshop si bien. Ça a l’air si bien. » Mais c’est un pur non-sens, surtout lorsqu’il s’agit de représenter la culture et les principes autochtones.

Avez-vous un exemple?

Dans plusieurs cultures des Premières Nations du Canada, nous avons ce qu’on appelle la roue médicinale. Ce symbole a beaucoup de signification et il est censé être un outil de guérison. J’ai utilisé un logiciel de génération d’images et j’ai demandé « Roue de médecine autochtone ». C’est ça. C’est mon message. C’est pas compliqué. Si vous mettez cela dans Google, vous obtiendrez une roue médicinale légitime.

Mais ce qui revient du logiciel de génération d’images est littéralement de la foutaise. J’en ai vu des où c’est une assiette, avec de nombreux morceaux différents sur l’assiette. Je pensais que c’était peut-être l’interpréter comme de la nourriture. La nourriture peut être un médicament, n’est-ce pas ? La nourriture peut guérir. Mais quand j’ai zoomé sur l’image, je me suis dit : « Ce sont des coquilles d’escargot. Et ça, c’est une cigarette. » Juste des morceaux de texture aléatoires qu’il a tirés pour en faire une image « cool », mais qui a fondamentalement perdu l’intentionnalité et les principes culturels autochtones.

Je l’ai également vu pour les outils de génération de texte alternatif… Je pense que ce serait en fait très accessible pour les gens s’ils pouvaient utiliser des choses comme des générateurs de texte alternatif, pour avoir au moins une bonne base de départ. Mais vous ne pouvez pas avoir cette base de départ s’il n’y a pas de fondement d’intentionnalité et d’inclusion.

Alors, ai-je peur que l’IA vienne pour mon travail ? Non pas du tout.

Il semble effectivement qu’à côté de cette ferveur pour l’innovation en matière d’IA, il existe simultanément une culture de peur créée autour des capacités de l’IA.

Si nous disons que l’IA crée une culture de la peur, c’est parce qu’elle ne représente pas les gens.

Vous parlez d’arriver à un point où un assistant IA « comprend » pleinement les langues ou la culture autochtones tout en fournissant un service. Qu’est-ce que cela implique ?

Je pense que la compréhension est une compétence collaborative. L’une des choses qui sont vraiment cool avec l’IA aujourd’hui, c’est de pouvoir converser avec elle, de l’aider et de la développer. Donc, avoir cet outil facilement disponible dans davantage de systèmes faciliterait la compréhension. Vous pourriez lui dire : « Hé, ce que vous dites est en fait nuisible et perpétue un stéréotype. Nous devrions arrêter de dire ça. » J’aimerais le voir plus largement appliqué à ces systèmes.

Mais aussi, avant de lancer un produit et d’attendre que le monde le répare pour vous en interagissant avec lui, impliquez les gens dès les premières étapes de son développement pour contribuer à l’influencer. Impliquez un ensemble diversifié de personnes pour aider à discuter avec cette IA, afin qu’elle puisse comprendre qu’il y a beaucoup de déchets sur Internet qu’elle va ramasser, ou que les gens vont y alimenter.

En réalité, un outil pleinement inclusif et complet comme celui-ci pourrait-il un jour exister ? Ou est-ce quelque chose qui ne devrait pas être abandonné au profit de la technologie ou des services basés sur l’IA ? Les solutions impliquant l’humain sont-elles suffisantes ?

Je pense que si vous construisez la technologie d’une manière plus inclusive et que vous êtes prêt à emprunter également une voie destructrice et à repenser la façon dont vous l’avez abordée auparavant, c’est possible.

L’un des principaux sujets dont ils doivent parler – en tant que gouvernement, ou en tant qu’entreprises, ou en tant que grosses bêtes de la technologie – est de savoir qui sont-ils prêts à exclure ? Les peuples autochtones constituent (l’une des) populations dont la croissance est la plus rapide en Amérique du Nord. Ainsi, en ne développant pas ces outils à l’esprit, pour l’indigénéité et l’inclusivité, nous laissons de côté cet immense groupe de personnes. Il n’appartient pas aux peuples autochtones de résoudre tous les problèmes. Il appartient aux gens qui disposent des fonds nécessaires pour y parvenir et qui sont prêts à repenser leurs processus pour avancer dans le bon sens.

Un ordinateur ne peut pas simuler l’empathie. Il ne peut pas comprendre l’empathie. Et la même chose s’applique aux gens. S’ils ne font pas preuve d’empathie, ils ne comprendront pas pourquoi cela est important, pourquoi nous parlons de cette question particulière. Mais c’est grâce à ce niveau humain d’empathie que nous allons réellement résoudre ce problème et le résoudre.