Les adolescents d'Instagram se voient régulièrement recommander des vidéos sexuelles et explicites, selon un nouveau rapport
L’algorithme Reels peut être plus puissant que ce que la plate-forme peut gérer.
Selon un nouveau rapport, les jeunes utilisateurs d'Instagram se voient plus facilement recommander des vidéos sexuellement explicites et préjudiciables que la plateforme ne le laisse entendre.
Les résultats en matière de sécurité des enfants sont basés sur deux expériences sur différents sites menées par le Wall Street Journal et Laura Edelson, professeur d'informatique à la Northeastern University. Testée sur une période de sept mois, la publication a créé de nouveaux comptes mineurs qui parcouraient ensuite le flux vidéo Reels d'Instagram, sautant le contenu « normal » et s'attardant sur des vidéos pour adultes plus « racées ». Après seulement 20 minutes de défilement, les comptes ont été inondés de promotions pour les « créateurs de contenu sexuel pour adultes » et d'offres de photos nues.
Les comptes Instagram marqués comme mineurs sont automatiquement soumis aux limites de contrôle de contenu les plus strictes.
Les tests du journal reproduisent ceux menés par d'anciens responsables de la sécurité de l'entreprise en 2021, qui ont révélé que le système de recommandation universel du site limitait l'efficacité des mesures de sécurité des enfants. Des documents internes de 2022 montrent que Meta savait que son algorithme recommandait « plus de pornographie, de sang et de discours haineux aux jeunes utilisateurs qu'aux adultes », rapporte le Wall Street Journal.
« Il s'agit d'une expérience artificielle qui ne correspond pas à la réalité de la façon dont les adolescents utilisent Instagram », a déclaré le porte-parole de Meta, Andy Stone, à la publication. « Dans le cadre de notre travail de longue haleine sur les questions liées à la jeunesse, nous avons déployé des efforts pour réduire davantage le volume de contenus sensibles que les adolescents peuvent voir sur Instagram, et nous avons considérablement réduit ces chiffres au cours des derniers mois. »
Des tests similaires ont été effectués sur des plateformes vidéo comme TikTok et Snapchat, mais ils n’ont pas donné les mêmes résultats de recommandation.
Les nouvelles découvertes font suite à un rapport de novembre qui révélait que l'algorithme Reels d'Instagram recommandait des pratiques sexuelles explicites aux utilisateurs adultes qui ne suivaient que des comptes d'enfants.
Une enquête de février, également menée par le Wall Street Journal, a révélé que les employés de Meta avaient averti l'entreprise de la présence continue de parents exploiteurs et de titulaires de comptes adultes sur Instagram, qui cherchaient des moyens de tirer profit des images d'enfants en ligne. Le rapport note la montée en puissance des « Momfluencers » se livrant à des plaisanteries sexuelles avec leurs abonnés et vendant des abonnements pour voir des contenus suggestifs sur leurs enfants, comme la danse ou le mannequinat en bikini.
Les défenseurs et les organismes de réglementation se sont penchés sur le rôle des médias sociaux dans l'exploitation des enfants en ligne. Meta elle-même a été poursuivie à plusieurs reprises pour son rôle présumé dans l'exploitation des enfants, y compris un procès en décembre accusant l'entreprise de créer un « marché pour les prédateurs ». Suite à la création de son groupe de travail sur la sécurité des enfants en 2023, Meta a lancé une série de nouveaux outils de sécurité, notamment des contrôles anti-harcèlement et les paramètres de contrôle de contenu « les plus stricts » actuellement disponibles.
Pendant ce temps, le concurrent de Meta, X, a récemment révisé sa politique relative au contenu pour adultes, permettant aux utilisateurs de publier « de la nudité ou un comportement sexuel pour adultes produits et distribués, à condition qu'ils soient correctement étiquetés et qu'ils ne soient pas affichés de manière bien visible ». La plate-forme a déclaré que les titulaires de compte de moins de 18 ans ne pourront pas voir ce contenu, à condition qu'il soit étiqueté avec un avertissement de contenu. Mais X ne précise aucune conséquence pour les comptes publiant du contenu pour adultes sans étiquette.
