Outils de méta-tests pour protéger les utilisateurs adolescents de la sextorsion et des nus indésirables

Il inclut une nouvelle fonctionnalité appelée Protection de la nudité dans les DM.

Meta teste de nouveaux outils et fonctionnalités pour protéger les jeunes contre les escroqueries indésirables liées à la nudité et à la sextorsion, notamment la protection de la nudité dans les DM, une fonctionnalité qui brouille automatiquement les images de nus.

Une partie de cette répression est due au fait que Meta dit observer une tendance à la sextorsion financière, dans laquelle quelqu'un obtient des photos nues d'une autre personne et dit qu'il les publiera en ligne à moins que la victime n'envoie de l'argent ou des cartes-cadeaux.

« C'est un crime vraiment horrible qui a pour but de faire en sorte que les gens se sentent seuls et honteux », a déclaré Antigone Davis, directrice de la sécurité mondiale de Meta, à CNN. « Il est bien établi que la criminalité augmente, et c'est l'une des raisons pour lesquelles nous voulons aller de l'avant et nous assurer que les gens sont conscients de ce que nous faisons alors que nous faisons continuellement évoluer nos outils. »

La protection contre la nudité dans les DM sera la valeur par défaut pour les personnes de moins de 18 ans et sera encouragée pour tous les utilisateurs. Lorsque les utilisateurs dont la protection est activée tentent d'envoyer une photo contenant de la nudité, il leur sera rappelé qu'ils doivent être prudents et qu'ils peuvent annuler l'envoi à tout moment. Si un utilisateur essaie de transmettre une image nue, il sera encouragé à reconsidérer sa décision et à être « responsable et respectueux ». Et enfin, lorsqu'un utilisateur reçoit une image contenant de la nudité, celle-ci sera automatiquement floue et il sera encouragé à ne pas se sentir obligé de répondre de la même manière. Les gens seront également dirigés vers des conseils de sécurité lors de l’envoi ou de la réception d’images nues.

« Cette fonctionnalité est conçue non seulement pour empêcher les gens de voir de la nudité non désirée dans leurs messages directs, mais également pour les protéger des escrocs qui peuvent envoyer des images nues pour inciter les gens à envoyer leurs propres images en retour », a déclaré Meta dans un article de blog.

Meta peut voir si une image contient de la nudité grâce à l'apprentissage automatique sur l'appareil, qui inclut une protection par cryptage de bout en bout. Ainsi, à moins que quelqu'un ne choisisse de signaler une image dans un DM, Meta dit qu'il n'y aura pas accès.

Meta renforce également son travail visant à mettre fin à la sextorsion sur son application en développant une technologie permettant d'identifier les comptes se livrant à la sextorsion par mesure de précaution. Si un compte est signalé comme compte potentiel de sextorsion, les messages envoyés par ce compte iront directement dans le dossier de demandes caché du destinataire. Et il n'y aura pas de bouton « Message » sur le profil d'un adolescent si un compte est signalé comme un compte potentiel de sextorsion, même s'il est déjà connecté à l'adolescent. De plus, si quelqu'un interagit avec un compte qui a été supprimé pour sextorsion, il verra un message contextuel le dirigeant vers davantage de ressources. Enfin, lorsque les adolescents signalent des problèmes pertinents, ils seront dirigés vers les lignes d'assistance téléphonique locales pour la sécurité des enfants.

« Cette coopération industrielle est essentielle car les prédateurs ne se limitent pas à une seule plateforme – et il en va de même pour les escrocs par sextorsion », a déclaré Meta. « Ces criminels ciblent leurs victimes à travers les différentes applications qu'ils utilisent, déplaçant souvent leurs conversations d'une application à une autre. C'est pourquoi nous avons commencé à partager davantage de signaux spécifiques à la sextorsion avec Lantern, pour tirer parti de cette importante coopération et essayer de mettre fin aux escroqueries par sextorsion. pas seulement sur des plateformes individuelles, mais sur l'ensemble d'Internet. »