Des publicités Deepfake mettant en vedette Jenna Ortega ont été diffusées sur les plateformes Meta. Les Big Tech doivent lutter contre cela.

La crise déchirante des deepfakes se poursuit, ciblant une fois de plus les femmes.

La crise des deepfakes continue. Les méta-plateformes, notamment Instagram, Facebook et Messenger, auraient hébergé des publicités générées par l’IA représentant l’actrice de mercredi Jenna Ortega déshabillée.

Comme le rapporte NBC News, les publicités utilisaient une photo floue d’Ortega prise quand elle avait 16 ans et expliquaient aux utilisateurs comment changer la tenue de la célébrité, y compris une option permettant de retirer tous les vêtements. Les images auraient été manipulées par une application appelée Perky AI, répertoriée comme développée par la société RichAds, décrite dans l’App Store d’Apple comme une plate-forme utilisant l’IA pour « créer des personnes super réalistes ou fantaisistes » avec des invites. Cela inclut les images « NSFW » (non sécuritaires pour le travail), qui sont généralement sexuellement explicites.

Suite au rapport de NBC, l’éditeur affirme que la page de l’application Perky AI a été suspendue par Meta, après avoir déjà diffusé 260 publicités uniques sur les plateformes de l’entreprise depuis septembre – celles présentant l’image d’Ortega auraient été diffusées tout au long du mois de février. Parmi les publicités diffusées sur les plateformes de Meta, le média indique que 30 ont déjà été suspendues pour non-respect des normes publicitaires de l’entreprise, mais les publicités mettant en vedette Ortega n’en faisaient pas partie.

Dans une déclaration à Indigo Buzz, le porte-parole de Meta, Ryan Daniels, a déclaré : « Meta interdit strictement la nudité des enfants, les contenus qui sexualisent les enfants et les services proposant des images de nus non consensuelles générées par l’IA. Bien que cette application reste largement disponible sur divers magasins d’applications, nous avons supprimé ces publicités et les comptes derrière elles. »

Perky AI semble également avoir été supprimé de l’App Store d’Apple et de Google Play (Indigo Buzz a été coché et n’est disponible ni sur l’un ni sur l’autre). Apple a déclaré à NBC que l’application avait été supprimée le 16 février, après avoir déjà fait l’objet d’une enquête de la société pour violation de ses politiques concernant le « matériel ouvertement sexuel ou pornographique ».

Indigo Buzz a contacté Apple et Google pour de plus amples commentaires.

Cet incident est le dernier d’une série de deepfakes non consensuels et sexuellement explicites circulant sur Internet. Au cours des deux premiers mois de 2024, des photos de célébrités comme Taylor Swift et l’animatrice de podcast Bobbi Althoff se sont répandues sur les principales plateformes de médias sociaux, dont X, anciennement connu sous le nom de Twitter. Les deepfakes ont également infiltré les écoles, avec de faux nus d’étudiants faisant récemment le tour d’un collège de Beverly Hills et d’un lycée de la banlieue de Seattle.

La question se trouve à un point critique, les experts avertissant qu’un changement juridique et sociétal est nécessaire de toute urgence. Subsum, une plateforme de vérification d’identité, a constaté que la détection des deepfakes a été multipliée par 10 entre 2022 et 2023. De nombreuses plateformes de médias sociaux ont eu du mal à contenir ce type de contenu : rien qu’au cours des derniers mois, Google, X et Meta ont été dénoncés. pour avoir permis à du matériel deepfake de circuler sur leurs plateformes.

Si les utilisateurs voient une publicité sur une plate-forme qui, selon eux, doit être signalée, les guides de l’entreprise contiennent des instructions sur la manière de le faire. Meta permet aux utilisateurs de signaler les publicités sur Facebook ou Instagram, tandis qu’Apple propose plusieurs fils de discussion communautaires qui aident les utilisateurs à signaler les publicités intégrées à l’application, par exemple. Google aide également les utilisateurs à signaler les annonces inappropriées via un formulaire.

Mais certaines de ces mesures ne suffisent pas à arrêter la prolifération du contenu généré par l’IA. Les grandes technologies doivent prendre des mesures significatives pour lutter contre ce qui semble devenir une épidémie, ciblant le plus souvent les filles, les femmes et les personnes marginalisées.

Si vous avez été victime d’abus sexuels, si vous résidez aux États-Unis, appelez la ligne d’assistance gratuite et confidentielle National Sexual Assault au 1-800-656-HOPE (4673), ou accédez à l’aide en ligne 24h/24 et 7j/7 en visitant online.rainn. org. Si des images intimes ont été partagées sans votre consentement, appelez la hotline 24h/24 et 7j/7 de la Cyber ​​Civil Rights Initiative au 844-878-2274 pour une assistance gratuite et confidentielle. Le site Web du CCRI comprend également des informations utiles ainsi qu’une liste de ressources internationales.

Si vous résidez au Royaume-Uni et avez été victime d’abus d’image intime (c’est-à-dire de porno de vengeance), vous pouvez contacter la ligne d’assistance Revenge Porn au 0345 6000 459. Si vous avez été victime de violence sexuelle et que vous résidez au Royaume-Uni, appelez la ligne d’assistance Rape Crisis au 0808. 802 9999.