Les victimes de deepfakes non consensuels s’arment de la loi sur le droit d’auteur pour lutter contre la propagation du contenu

Google a reçu des milliers de plaintes pour atteinte aux droits d’auteur sur des dizaines de sites Web.

Selon une nouvelle enquête, les victimes de deepfake porn non consensuelle utilisent les lois sur le droit d’auteur pour reprendre possession de leur image.

Dans une analyse des réclamations pour droits d’auteur contre des sites Web connus pour partager des vidéos non consensuelles et modifiées numériquement, WIRED a découvert que des milliers de femmes (y compris des streamers, des joueurs et d’autres créateurs de contenu populaires) déposaient des plaintes auprès de Google exigeant la suppression du contenu.

La publication a documenté plus de 13 000 réclamations pour atteinte aux droits d’auteur (dont près de 30 000 URL) contre des dizaines de sites qui alimentent Google.

Les victimes utilisent le Digital Media Copyright Act (DMCA), qui est fréquemment utilisé pour supprimer la musique, les vidéos et autres médias protégés par le droit d’auteur des sites tiers (et des pages personnelles) en ligne. Le DMCA a également été utilisé au nom de victimes d’abus sexuels basés sur l’image ou de « vengeance pornographique », dans des cas citant la paternité personnelle et l’utilisation non autorisée d’images.

La modification ou la fabrication pure et simple d’images originales par un créateur de deepfake complique la question, imposant une obligation de preuve plus élevée aux victimes revendiquant des droits de propriété intellectuelle.

Google a déjà abordé la propagation de la vengeance pornographique et des deepfakes avec de nouvelles politiques et procédures de signalement, notamment des options permettant de supprimer les images personnelles explicites des résultats de recherche et des systèmes de signalement des deepfakes impliquant la détection des images originales et copiées. La société a également documenté ses efforts pour signaler et supprimer ce type de contenu. Selon les propres données de Google, environ 82 % des plaintes ont abouti à la suppression d’URL. « Rien que pour le plus grand site de vidéos deepfake », a rapporté WIRED. « Google a reçu des demandes de retrait pour 12 600 URL, dont 88 % ont été mises hors ligne. »

Le grand nombre de violations confirmées a incité les défenseurs de la sécurité en ligne et du droit d’auteur à se demander pourquoi les sites Web sont toujours autorisés à rester opérationnels. « Si vous supprimez 12 000 liens pour violation, pourquoi ne sont-ils pas complètement supprimés ? » a posé Dan Purcell, fondateur et PDG de la société de protection des pratiques Ceartas, dans une interview avec WIRED. « Ils ne devraient pas être explorés. Ils ne présentent aucun intérêt public. »

La stratégie du droit d’auteur est une solution de contournement juridique pour les victimes alors que les dirigeants gouvernementaux avancent avec un projet de loi qui criminaliserait la propagation des « contrefaçons numériques sexualisées ».

Connue sous le nom de DEFIANCE (Disrupt Explicit Forged Images and Non-Consensual Edits), la législation prévoit également une voie civile permettant aux victimes de poursuivre en justice les créateurs d’images deepfake utilisant leur ressemblance.

« Les victimes de deepfakes pornographiques non consensuels ont attendu trop longtemps que la législation fédérale oblige les auteurs à rendre des comptes. Alors que les deepfakes deviennent plus faciles d’accès et de création – 96 % des vidéos deepfakes circulant en ligne sont de la pornographie non consensuelle – le Congrès doit agir pour montrer aux victimes qu’elles ne le feront pas. être laissés pour compte », a écrit la députée Alexandria Ocasio-Cortez lors de l’introduction du projet de loi à la Chambre.

En février, des centaines de leaders de l’IA – rejoints par des universitaires, des chercheurs, des artistes et même des politiciens – ont publié une lettre ouverte appelant à donner la priorité à la législation sur les deepfakes. La coalition a appelé à un projet de loi qui criminaliserait pleinement la pornographie juvénile deepfake, établirait des sanctions pénales pour toute personne sciemment impliquée dans la création ou la diffusion de deepfakes nuisibles et imposerait des exigences aux développeurs et distributeurs de logiciels, a rapporté Meera Navlakha de Indigo Buzz.

La lettre citait les limites et les insuffisances de la législation actuelle pour lutter spécifiquement contre les deepfakes, ainsi que l’augmentation considérable des technologies et de la production des deepfakes. « Les progrès sans précédent de l’IA rendent la création de deepfakes rapide, bon marché et facile. Le nombre total de deepfakes a augmenté de 550 % entre 2019 et 2023 », a écrit la coalition.

Les deepfakes explicites de célébrités sont une priorité pour beaucoup, suite à la diffusion d’images non consensuelles de Taylor Swift sur X et à la récente découverte de publicités pornographiques deepfakes utilisant l’effigie de l’actrice Jenna Ortega.

Mais le problème est tout aussi inquiétant pour les individus non célèbres. Les images deepfake pénètrent de plus en plus dans la vie sociale des jeunes enfants et des adolescents, incitant les experts en ligne en matière de sécurité des enfants à appeler à des mesures préventives et à une attention accrue de la part des parents.

En février, un groupe de collégiens californiens a utilisé la technologie deepfake pour créer et diffuser des images nues de leurs camarades de classe, le dernier exemple en date parmi des mineurs qui semblent de plus en plus jeunes. Diverses affaires judiciaires ont statué sur le recours des victimes, avec peu ou pas de lois pour les guider.

« La pornographie deepfake est une forme de violence sexuelle numérique. Elle viole le consentement, l’autonomie et la vie privée des victimes », a écrit Omny Miranda Martone, fondatrice de la Sexual Violence Prevention Association (SVPA), en soutien à la loi DEFIANCE. « Les victimes sont confrontées à un risque accru de harcèlement criminel, de violence domestique, de perte d’emploi, de réputation ternie et de traumatisme émotionnel. »

Si des images intimes ont été partagées sans votre consentement, appelez la hotline 24h/24 et 7j/7 de la Cyber ​​Civil Rights Initiative au 844-878-2274 pour une assistance gratuite et confidentielle. Le site Web du CCRI comprend également des informations utiles ainsi qu’une liste de ressources internationales.