Les échecs de modération de Meta incitent à la haine et aux violations des droits humains, selon Amnesty International

L’organisation de défense des droits humains fait pression sur Meta pour qu’elle indemnise les victimes de la guerre civile du Tigré en Éthiopie.

Meta et sa plateforme Facebook font face à des appels continus à la responsabilisation et à des réparations suite aux accusations selon lesquelles leurs plateformes peuvent exacerber les violents conflits mondiaux.

La dernière avancée se présente sous la forme d’un nouveau rapport de l’organisation de défense des droits humains Amnesty International, qui s’est penché sur les politiques de modération de contenu de Meta au début d’un conflit en cours dans la région du Tigré en Éthiopie et sur l’incapacité de l’entreprise à répondre aux acteurs de la société civile appelant à une action avant et pendant le conflit.

Publié le 30 octobre, le rapport — intitulé « Une peine de mort pour mon père » : la contribution de Meta aux violations des droits humains dans le nord de l’Éthiopie — se concentre sur les mécanismes des médias sociaux à l’origine du conflit civil armé éthiopien et du nettoyage ethnique qui a éclaté en Éthiopie. nord du pays en novembre 2020. Plus de 600 000 civils ont été tués par les forces combattantes alignées sur le gouvernement fédéral éthiopien et celles alignées sur les gouvernements régionaux. La guerre civile s’est ensuite étendue aux régions voisines d’Amhara et d’Afar, période pendant laquelle Amnesty International et d’autres organisations ont documenté des crimes de guerre, des crimes contre l’humanité et le déplacement de milliers d’Éthiopiens.

« Pendant le conflit, Facebook (propriété de Meta) en Éthiopie a été inondé de contenus incitant à la violence et prônant la haine », écrit Amnesty International. « Le contenu ciblant la communauté tigréenne était particulièrement prononcé, le Premier ministre éthiopien, Abiy Ahmed, des militants pro-gouvernementaux, ainsi que des pages d’information alignées sur le gouvernement publiant du contenu prônant la haine incitant à la violence et à la discrimination contre la communauté tigréenne.

L’organisation affirme que le « modèle économique basé sur la surveillance » et l’algorithme de Meta, qui « privilégient l’engagement à tout prix » et s’appuient sur la collecte, l’analyse et l’exploitation des données des personnes, ont conduit à la diffusion rapide de messages haineux. Un récent rapport de la Commission internationale d’experts des droits de l’homme sur l’Éthiopie (ICHREE), nommée par l’ONU, a également noté la prévalence des discours de haine en ligne qui alimentent les tensions et la violence.

Le tweet a peut-être été supprimé

Amnesty International a porté des accusations similaires à l’encontre de l’entreprise pour son rôle dans les attaques ciblées, les meurtres et le déplacement de la communauté Rohingya du Myanmar, et affirme que les entreprises comme Meta ont l’obligation légale de protéger les droits humains et de faire preuve de diligence raisonnable en vertu du droit international.

En 2022, les victimes de la guerre en Éthiopie ont intenté une action en justice contre Meta pour son rôle dans le maintien de publications incendiaires sur sa plateforme sociale pendant le conflit actif, sur la base d’une enquête menée par le Bureau of Investigative Journalism et l’Observer. Les pétitionnaires allèguent que les systèmes de recommandations de Facebook ont ​​amplifié les messages haineux et violents et ont permis aux utilisateurs de publier du contenu incitant à la violence, même s’ils étaient conscients que cela alimentait les tensions régionales. Certains affirment également que ces publications ont directement conduit à des attaques et à la mort de personnes.

Déposée au Kenya, où sont basées les opérations de Meta en Afrique subsaharienne, la plainte est soutenue par Amnesty International et six autres organisations, et appelle l’entreprise à créer un fonds de 1,3 milliard de dollars (ou 200 milliards de shillings kenyans) pour indemniser les victimes de haine et de haine. violences sur Facebook.

En plus du fonds basé sur les réparations, Amnesty International appelle également Meta à étendre ses capacités de modération de contenu et de langues en Éthiopie, ainsi qu’à une reconnaissance publique et des excuses pour sa contribution aux violations des droits humains pendant la guerre, comme indiqué dans son récent rapport. rapport.

Les recommandations plus larges de l’organisation incluent également l’intégration d’évaluations d’impact sur les droits de l’homme dans le développement de nouvelles IA et algorithmes, un investissement dans les ressources linguistiques locales pour les communautés mondiales à risque, et l’introduction de davantage de « mesures de friction » – ou d’une conception de sites qui rend le le partage de contenu est plus difficile, comme les limites de partage, de transfert de messages et de taille des groupes.

Meta a déjà été critiquée pour avoir permis la propagation incontrôlée de discours de haine, de désinformation et de désinformation sur ses plateformes basées sur des algorithmes, notamment lors des élections présidentielles américaines de 2016 et 2020. En 2022, l’entreprise a créé un centre d’opérations spéciales pour lutter contre la propagation de la désinformation, supprimer les discours de haine et bloquer les contenus incitant à la violence sur ses plateformes lors de l’invasion russe de l’Ukraine. Il a déjà déployé d’autres outils de confidentialité et de sécurité dans des régions de conflit, notamment un outil de verrouillage de profil pour les utilisateurs en Afghanistan lancé en 2021.

De plus, la société a récemment été critiquée pour sa modération excessive, ou « shadow-banning », de comptes partageant des informations pendant la crise humanitaire à Gaza, ainsi que pour avoir favorisé des stéréotypes néfastes sur les Palestiniens à travers des traductions inexactes.

Dans un contexte de conflits en cours dans le monde, notamment de violences persistantes en Éthiopie, les défenseurs des droits humains souhaitent que les entreprises technologiques fassent davantage pour lutter contre la diffusion rapide de messages haineux et de désinformation.

« Le développement non réglementé des grandes technologies a entraîné de graves conséquences en matière de droits humains dans le monde entier », écrit Amnesty International. « Il ne fait aucun doute que les algorithmes de Meta sont capables de nuire aux sociétés du monde entier en promouvant des contenus qui prônent la haine et qui incitent à la violence et à la discrimination, ce qui touche de manière disproportionnée les communautés déjà marginalisées. »