L’emoji carotte anti-vax de Facebook, expliqué

C’est pourquoi votre oncle a des emojis de carottes dans son compte Twitter.

Pour éviter la censure de la propagation de la désinformation sur le COVID-19, des groupes anti-vax sur Facebook ont ​​commencé à coder leurs messages avec l’emoji carotte, selon un rapport de la BBC. L’emoji est utilisé à la place du mot « vaccin » pour éviter la colère des algorithmes de modérateurs automatisés de Facebook.

La BBC rapporte que ces groupes partagent souvent des allégations non vérifiées de personnes tuées ou blessées par le vaccin COVID-19. Un groupe de plus de 200 000 membres stipule dans ses règles que les membres doivent « utiliser des mots de code pour tout » et que les affiches ne peuvent « jamais utiliser le mot c, le mot v ou le mot b » ​​(covid, vaccin, rappel).

Selon la BBC, l’algorithme que la plate-forme appartenant à Meta utilise pour la modération a tendance à se concentrer sur les mots, pas sur les images. C’est une nouvelle sans surprise. En juillet 2021, un rapport de Bloomberg détaillait les performances médiocres des algorithmes des médias sociaux pour détecter les abus via les emojis.

Marc Owen Jones, chercheur en désinformation et professeur associé à l’Université Hamad Bin Khalifa au Qatar, a été invité à rejoindre l’un de ces groupes et a partagé la tentative « très étrange » du groupe d’échapper à la censure. « Au début, j’étais un peu confus », a déclaré Jones dans un tweet. « Et puis ça a cliqué – qu’il était utilisé comme un moyen d’échapper, ou apparemment d’échapper, aux algorithmes de détection de fausses nouvelles de Facebook. »

Le tweet a peut-être été supprimé

« Ma sœur, 57 ans, s’est précipitée à l’hôpital avec des problèmes respiratoires. Elle a deux 🥕🥕 et le b🥕 », a écrit une affiche. Un autre a écrit : « Mon oncle 55 ans, tumeur au cerveau après 🥕🥕. » Sur la base des captures d’écran de Jones, un thème commun dans ces messages est que les utilisateurs blâment les problèmes de santé associés au vieillissement sur le vaccin COVID.

Les utilisateurs de ce fil ont également souligné d’autres emojis que les groupes anti-vax utiliseraient, comme l’emoji 🍺 (booster / booze-ster) ou l’emoji 🍎 à l’époque où le CDC a commencé à autoriser les enfants à se faire vacciner.

Une recherche rapide sur Twitter de « 🥕 convoitise » fera apparaître des centaines de tweets en français postés par des utilisateurs ornant la carotte dans leur nom d’affichage. Une traduction Google de certains de ces tweets montre des utilisateurs remettant en question la validité des mesures du vaccin COVID-19 mises en place par le président français Emmanuel Macron.

Problème de modération automatique des médias sociaux

L’utilisation d’emojis comme code pour quelque chose de plus sinistre n’est pas nouvelle. Et pas d’une manière sombre et drôle d’emoji crabe, mais d’une manière « j’essaie d’être habile avec mon sectarisme ».

Les plateformes de médias sociaux comme Facebook et Twitter ont été critiquées dans le passé pour leurs réponses ternes à l’arrêt des abus racistes envers les joueurs de football noirs. Les trolls sur Internet publieraient des emojis de singes et de bananes comme des gestes racistes en utilisant des images souvent associées aux stéréotypes racistes des Noirs.

Une autre façon dont les mauvais acteurs s’en tirent en répandant des mensonges et de la haine sur Internet implique l’utilisation du camouflage des mots. Dans une étude de recherche par Ana Romero-Vicente, chercheuse à l’EU DisinfoLab, cette technique implique l’ajustement subtil des mots-clés afin qu’ils soient « compréhensibles pour les utilisateurs tout en restant non détectés par les systèmes de modération de contenu des réseaux sociaux ». Par exemple, « v4c11ne » signifierait « vaccin ».

Romero déclare que la lutte contre ce phénomène de camouflage des mots est une tâche complexe qui nécessite de réévaluer et d’optimiser constamment les listes de blocage sur les réseaux sociaux pour atteindre un équilibre délicat entre la désinformation et le contenu qui ne viole pas les règles.

Facebook, pour sa part, tente activement de fermer les groupes qui tentent de diffuser des informations sur les vaccins. Le centre d’aide de la plateforme déclare qu’il supprimera « les allégations selon lesquelles les vaccins COVID-19 sont expérimentaux si le contexte de l’allégation suggère également que les personnes vaccinées participent à une expérience médicale » et « les allégations selon lesquelles les vaccins COVID-19 tuent ou blessent gravement des personnes ».

Cependant, cette discussion sur la modération du contenu COVID peut être sans objet. Nick Clegg, président des affaires mondiales de Meta a écrit en juillet qu’il s’est demandé si « le moment est venu pour nous de demander l’avis du Conseil de surveillance sur nos mesures pour lutter contre la désinformation sur le COVID-19, y compris si celles introduites au début d’une crise mondiale extraordinaire restent la bonne approche pour les mois et les années devant. » En d’autres termes, Meta pourrait bientôt cesser d’essayer de supprimer complètement le contenu anti-vax.