Un nouveau projet de loi du Sénat ouvrirait la voie aux victimes de deepfakes non consensuels d’IA
La législation criminaliserait la diffusion d’images sexualisées générées par l’IA.
Suite à la diffusion virale d’images pornographiques de la chanteuse Taylor Swift, obtenues par l’IA, les dirigeants gouvernementaux s’attaquent à la création et au partage de deepfakes sexualisés générés par l’IA.
Le 30 janvier, un groupe bipartisan de sénateurs a présenté un nouveau projet de loi qui criminaliserait le fait de diffuser des « contrefaçons numériques » non consensuelles et sexualisées créées à l’aide de l’intelligence artificielle. Les contrefaçons numériques sont définies comme « une représentation visuelle créée par l’utilisation d’un logiciel, de l’apprentissage automatique, de l’intelligence artificielle ou de tout autre moyen technologique ou généré par ordinateur pour paraître faussement authentique ».
Actuellement connue sous le nom de Disrupt Explicit Forged Images and Non-Consensual Edits Act de 2024 (ou « Defiance Act »), la législation ouvrirait également la voie à un recours civil pour les victimes dont les images étaient représentées dans des images nues ou sexuellement explicites. Grâce à ce projet de loi, les victimes pourraient poursuivre « les individus qui ont produit ou possédé le faux dans l’intention de le distribuer » ou toute personne ayant reçu le matériel en sachant qu’il n’avait pas été réalisé avec son consentement, a rapporté le Guardian.
« Le volume de contenu deepfake disponible en ligne augmente de façon exponentielle à mesure que la technologie utilisée pour le créer est devenue plus accessible au public », ont écrit le président du pouvoir judiciaire Richard J. Durbin et la représentante Lindsey Graham. « L’écrasante majorité de ce matériel est sexuellement explicite et est produite sans le consentement de la personne représentée. Une étude de 2019 a révélé que 96 % des vidéos deepfakes étaient de la pornographie non consensuelle. »
Le whip de la majorité au Sénat, Dick Durbin, a expliqué dans un communiqué de presse que l’introduction rapide du projet de loi avait été explicitement motivée par les images virales de Swift et par l’exigence de responsabilité de la Maison Blanche. « Ce mois-ci, de fausses images sexuellement explicites de Taylor Swift, générées par l’intelligence artificielle, ont envahi les plateformes de médias sociaux. Même si les images peuvent être fausses, le préjudice causé aux victimes par la distribution de « deepfakes » sexuellement explicites est bien réel. »
Dans une déclaration de la secrétaire de presse de la Maison Blanche, Karine Jean-Pierre, le 26 janvier, l’administration Biden a exprimé son désir que le Congrès s’attaque à la prolifération des deepfakes dans un contexte de faible application des plateformes de médias sociaux. « Nous savons qu’une application laxiste affecte de manière disproportionnée les femmes et aussi les filles, malheureusement, qui sont les cibles écrasantes du harcèlement et des abus en ligne », a déclaré Jean-Pierre aux journalistes. « Le Congrès devrait prendre des mesures législatives ».
La création de « porno » deepfake a été criminalisée dans d’autres pays et dans certains États américains, bien qu’une adoption généralisée reste encore à constater. Meera Navlakha de Indigo Buzz a fait état d’une détérioration du paysage des médias sociaux qui ignore les demandes continues des défenseurs en matière de protection et de responsabilité, écrivant : « La réalité alarmante est que les images générées par l’IA deviennent de plus en plus omniprésentes et présentent de nouveaux dangers pour ceux qu’elles représentent. Le problème est un fondement juridique obscur, les plateformes de médias sociaux qui n’ont pas réussi à promouvoir des garanties efficaces et la montée continue de l’intelligence artificielle.
Un climat de détérioration de l’éducation aux médias – et la forte augmentation de la désinformation numérique et des escroqueries de deepfake – rendent encore plus nécessaire une action de l’industrie.
Si des images intimes ont été partagées sans votre consentement, appelez la hotline 24h/24 et 7j/7 de la Cyber Civil Rights Initiative au 844-878-2274 pour une assistance gratuite et confidentielle. Le site Web du CCRI comprend également des informations utiles ainsi qu’une liste de ressources internationales.
