Threads a déjà un problème de discours de haine, avertissent des groupes de défense des droits civiques

Le maintien des directives communautaires d’Instagram pourrait ne pas suffire.

La liste des façons dont Twitter pourrait être amélioré est longue. De nombreux utilisateurs pensent que la plate-forme devrait supprimer ses modèles d’abonnement indésirables. D’autres dénoncent la mise en place d’outils d’accessibilité par le PDG Elon Musk à des fins lucratives. Et, mis à part les quelques voix qui y voient une forme de liberté d’expression, beaucoup pensent que la prolifération de la haine et de la désinformation doit être traitée stat.

Il pourrait donc être logique d’intégrer ces préoccupations dans le lancement de ce qui pourrait être le rival le plus réussi de Twitter. Mais la première semaine du nouveau forum communautaire basé sur le texte de Meta, Threads, suggère que cela n’a pas été fait suffisamment, selon les défenseurs et les groupes de défense des droits civiques.

En plus de l’absence d’accessibilité et d’autres fonctionnalités lors de son lancement, la nouvelle plate-forme sociale abrite déjà les mêmes types de discours de haine et de comptes extrémistes qui ont terni la réputation de Twitter, sans conduite visible spécifique à Threads ni politique communautaire décrivant comment le plate-forme résoudra le problème, préviennent les défenseurs.

Dans une lettre publié par 24 organisations de défense des droits civiques, de justice numérique et pro-démocratie, y compris le groupe de surveillance à but non lucratif Media Matters for Americale Centre de lutte contre la haine numériqueet GLAAD — la société mère de la plateforme est critiquée pour avoir fait marche arrière en matière de création d’un environnement numérique plus sûr pour les utilisateurs :

Plutôt que de renforcer vos politiques, Threads a pris des mesures pour faire le contraire, en n’étendant délibérément pas le programme de vérification des faits d’Instagram à la plate-forme et en capitulant devant les mauvais acteurs, et en supprimant une politique pour avertir les utilisateurs lorsqu’ils tentent de suivre un désinformateur en série. Sans garde-corps clairs contre les futures incitations à la violence, il n’est pas clair si Meta est prêt à protéger les utilisateurs contre les fournisseurs de premier plan de désinformation électorale qui violent les politiques écrites de la plateforme. À ce jour, la plateforme reste dépourvue des outils les plus élémentaires permettant aux chercheurs d’analyser l’activité sur Threads. Enfin, Meta a déployé Threads en même temps que vous avez licencié des modérateurs de contenu et des équipes d’engagement civique destinées à freiner la propagation de la désinformation sur la plateforme.

Avant le lancement de Threads le 5 juillet, Meta aurait licencié des membres d’une équipe de mésinformation et de désinformation embauché pour lutter contre la désinformation électorale, faisant partie d’un groupe plus large chargé de contrer les campagnes de désinformation en ligne.

La lettre notait également « la rhétorique néonazie, les mensonges électoraux, le déni du COVID et du changement climatique, et plus de toxicité » sur la nouvelle plate-forme, y compris des comptes publiant « des insultes sectaires, le déni électoral, les complots COVID-19, le harcèlement ciblé et le déni des trans l’existence des individus, la misogynie, et plus encore. » Selon un rapport de juillet de la Ligue anti-diffamation (ADL), le fleuron de Meta, Facebook, est la plate-forme la plus signalée où la haine et le harcèlement se produisent. De plus, Instagram et Facebook ont ​​tous deux reçu des notes d’échec dans l’indice de sécurité des médias sociaux 2023 du GLAAD, tandis que Twitter a été nommé le moins sûr.

En réponse aux « premières observations préoccupantes » quelques jours après le lancement de Threads, l’ADL surveille les politiques de la plateforme en matière de discours de haine, de protection et de confidentialité.. L’organisation a souligné que la politique de blocage des comptes de Threads était une avancée positive de la part du géant de la technologie, bloquant automatiquement les utilisateurs de Threads qui avaient été précédemment bloqués sur Instagram.

Cependant, l’organisation a également mis en évidence des cas où Threads aurait exposé des cibles vulnérables à la haine et au harcèlement, notamment en affichant des informations personnelles telles que des noms légaux cachés, qui pourraient poser de futurs problèmes aux utilisateurs à risque.

Le tweet a peut-être été supprimé

Lors du lancement de Threads, des comptes de médias sociaux connus accusés de diffuser régulièrement des informations erronées auraient été signalés de manière préventive par la plate-forme, de nombreuses personnalités de droite partageant leur mécontentement à l’égard de la politique du site consistant à avertir les autres utilisateurs de l’historique du compte. Les avertissements semblaient avoir été supprimés peu de temps après, Indigo Buzz étant incapable de répliquer les indicateurs de profil. Les directives communautaires d’Instagram se lisent actuellement : « Dans certains cas, nous autorisons le contenu destiné à la sensibilisation du public qui, autrement, irait à l’encontre de nos directives communautaires – s’il est digne d’intérêt et dans l’intérêt public. Nous ne le faisons qu’après avoir pesé la valeur de l’intérêt public par rapport au risque de mal et nous nous tournons vers les normes internationales des droits de l’homme pour porter ces jugements. »

Au moment de la publication de cette histoire, Threads n’a pas encore publié ses propres directives communautaires sur site ou sa politique de conduite, écrivant dans son lancement que la plate-forme « appliquerait les directives communautaires d’Instagram sur le contenu et les interactions dans l’application ». Conditions d’utilisation des discussions peut être trouvé dans le centre d’aide d’Instagram et indique : « Lorsque vous utilisez le service Threads, tout le contenu que vous téléchargez ou partagez doit être conforme aux directives de la communauté Instagram car le service fait partie d’Instagram. » Les lignes directrices de la communauté Instagram, à leur tour, renvoient aux normes de la communauté Facebook sur le discours de haine. Actuellement, lorsque vous essayez de signaler un abus ou un spam sur Threads, la plate-forme redirige les utilisateurs vers la page d’aide d’Instagram pour « Comment signaler une publication ou un profil sur Instagram ? »

En réponse à la demande de commentaires de Indigo Buzz et dans une déclaration à Media Matters for Americaun porte-parole de Meta a déclaré : « Nos outils d’application de l’intégrité à la pointe de l’industrie et notre examen humain sont connectés à Threads. Comme toutes nos applications, des politiques relatives aux discours de haine s’appliquent. De plus, nous comparons les évaluations de désinformation des vérificateurs de faits indépendants au contenu de nos autres applications, y compris Discussions. Nous envisageons d’autres moyens de traiter la désinformation dans les futures mises à jour. »

La lettre des défenseurs comprend également trois recommandations urgentes pour Threads :

• Mettez en œuvre des politiques solides propres à Threads qui répondent aux besoins d’une plate-forme textuelle en croissance rapide, y compris des politiques solides contre les discours de haine afin de protéger les communautés marginalisées.

• Donnez la priorité à la sécurité et à l’équité en adoptant une approche proactive et centrée sur l’humain pour prévenir les biais d’apprentissage automatique et autres malversations liées à l’IA.

• Mettre en œuvre des pratiques de gouvernance et de leadership pour dialoguer régulièrement avec la société civile, y compris des données et des méthodes transparentes et accessibles permettant aux chercheurs d’analyser les modèles commerciaux, le contenu et les pratiques de modération de Threads.

« Pour la sécurité des marques et des utilisateurs, Threads doit mettre en place des garde-corps qui endiguent l’extrémisme, la haine et les mensonges antidémocratiques », indique la lettre. « Cela n’est pas seulement bon pour les gens : c’est bon pour les affaires. »

Vous voulez plus de SBien social et technologie histoires dans votre boîte de réception? Inscrivez-vous à la newsletter Top Stories de Indigo Buzz aujourd’hui.