De nouveaux rapports associent Meta et les « momfluenceurs » à la perpétuation de l’exploitation des enfants en ligne

Les comptes gérés par les parents sont de plus en plus conscients des prédateurs d’enfants qui suivent leurs enfants, mais continuent de monétiser.

Deux nouvelles enquêtes publiées cette semaine jettent une lumière sombre sur les comptes d’influenceurs d’enfants gérés par des parents, alléguant que les outils de monétisation de contenu et les modèles d’abonnement de Meta fournissent un terrain fertile pour l’exploitation sexuelle des enfants en ligne.

Selon une exclusivité du Wall Street Journal, les responsables de la sécurité de Meta ont alerté l’entreprise sur les propriétaires de comptes adultes utilisant les outils d’abonnement payants de Facebook et d’Instagram pour profiter de contenus exploiteurs mettant en vedette leurs propres enfants. Des rapports internes documentent des centaines de ce qu’ils définissent comme des « comptes mineurs gérés par les parents » vendant du contenu exclusif via les abonnements Instagram. Le contenu présentait fréquemment de jeunes enfants en bikini et en justaucorps et promettait des vidéos d’enfants s’étirant ou dansant, a rapporté le Wall Street Journal, et les parents propriétaires encourageaient souvent les plaisanteries sexuelles et les interactions avec leurs abonnés.

Le personnel de sécurité a recommandé l’interdiction des comptes dédiés aux modèles enfants, ou une nouvelle exigence selon laquelle les comptes destinés aux enfants doivent être enregistrés et surveillés. La société a plutôt choisi de s’appuyer sur un système automatisé conçu pour détecter et interdire les prédateurs présumés avant qu’ils ne puissent s’abonner, selon le rapport du Wall Street Journal. Les employés ont déclaré que la technologie n’était pas fiable et que les interdictions pouvaient être facilement contournées.

Simultanément, le New York Times a publié un rapport sur l’activité lucrative des comptes Instagram gérés par les mères, qui confirmait les découvertes de comptes vendant des photos exclusives et des séances de discussion avec leurs enfants. Selon le Times, les messages plus suggestifs recevaient plus de likes, les abonnés masculins flattaient, intimidaient et même faisaient chanter les familles pour obtenir des images « plus racées », et certains des abonnés actifs avaient été reconnus coupables de crimes sexuels dans le passé. Les comptes d’enfants influenceurs ont rapporté qu’ils gagnaient des centaines de milliers de dollars grâce aux abonnements mensuels et aux interactions avec les abonnés.

L’enquête du Times a également documenté un nombre élevé de comptes masculins adultes interagissant avec des créateurs mineurs. Parmi les influenceurs les plus populaires, les hommes représentaient 75 à 90 % des abonnés, et des millions de « connexions » masculines ont été trouvées parmi les comptes d’enfants analysés.

Comme l’a expliqué le porte-parole de Meta, Andy Stone, au New York Times : « Nous empêchons les comptes présentant un comportement potentiellement suspect d’utiliser nos outils de monétisation, et nous prévoyons de limiter l’accès de ces comptes au contenu par abonnement. » Stone a déclaré au Wall Street Journal que le système automatique avait été institué dans le cadre d’un « travail de sécurité en cours ».

Les politiques de modération de la plateforme n’ont pas fait grand-chose pour freiner ces comptes et leurs modèles économiques douteux, avec le retour de comptes interdits sur les plateformes, les recherches explicitement sexuelles et les noms d’utilisateur filtrés par les systèmes de détection, et la diffusion de contenu Meta sur des forums hors site pour les prédateurs d’enfants, selon le Rapport du Wall Street Journal.

L’année dernière, Meta a lancé une nouvelle fonctionnalité de vérification et d’abonnement et des outils de monétisation étendus pour les créateurs, notamment des bonus pour les bobines et photos populaires et de nouvelles options de cadeaux. Meta a périodiquement peaufiné ses méthodes de monétisation de contenu, notamment en suspendant Reels Play, un outil de création qui permettait aux utilisateurs de tirer profit des vidéos Reels une fois qu’ils avaient atteint un certain nombre de vues.

Meta a déjà été critiquée pour sa réticence à arrêter les contenus préjudiciables sur ses plateformes. Dans le cadre des enquêtes en cours du gouvernement fédéral sur l’impact négatif des médias sociaux sur les enfants, l’entreprise a été poursuivie à plusieurs reprises pour son rôle présumé dans les méfaits des enfants. Un procès intenté en décembre accusait l’entreprise d’avoir créé un « marché pour les prédateurs ». En juin dernier, la plateforme a créé un groupe de travail sur la sécurité des enfants. Une enquête interne Meta de 2020 a documenté 500 000 comptes Instagram d’enfants ayant des interactions « inappropriées » quotidiennes.

Ce n’est pas la seule société de médias sociaux accusée de ne pas faire grand-chose pour mettre fin aux contenus pédopornographiques. En novembre 2022, une enquête de Forbes a révélé que des comptes privés TikTok partageaient du matériel d’abus sexuels sur des enfants et ciblaient des utilisateurs mineurs malgré la politique de « tolérance zéro » de la plateforme.

Selon les politiques de monétisation du contenu d’Instagram : « Tout le contenu sur Instagram doit être conforme à nos conditions d’utilisation et aux directives de la communauté. Il s’agit de nos règles générales contre les contenus sexuels, violents, grossiers ou haineux. Cependant, le contenu approprié pour Instagram en général n’est pas nécessairement approprié pour la monétisation. La politique ne mentionne pas spécifiquement les interdictions pour les comptes mineurs, bien que Meta ait publié un ensemble distinct de politiques interdisant les formes d’exploitation des enfants en général.

Les deux enquêtes répondent aux appels croissants de nombreux internautes demandant de mettre un terme à la diffusion de matériels d’abus sexuels sur des enfants via des comptes de modèles d’enfants et des pages encore plus banales dirigées par des « influenceurs » d’enfants. Les militants en ligne – y compris un réseau de comptes TikTok comme le militant pour la sécurité des enfants @mom.uncharted – ont documenté une augmentation de ces comptes sur la plateforme et sur d’autres sites de médias sociaux, et ont même traqué les membres des abonnés à prédominance masculine pour confronter leur comportement. Les appels des parents à l’origine de ces comptes ont incité d’autres vlogueurs familiaux à supprimer le contenu de leurs enfants, compromettant ainsi la rentabilité du « partage ». Pendant ce temps, les États débattent toujours des droits et de la réglementation des enfants influenceurs dans une industrie multimilliardaire.

Mais alors que les parents, les militants et les représentants politiques appellent à une action législative et culturelle, l’absence de réglementation, l’incertitude juridique quant aux types de contenus publiés et les lacunes générales en matière de modération semblent avoir permis à ces comptes de proliférer sur toutes les plateformes.