La Maison Blanche appelle les entreprises technologiques à lutter contre les deepfakes

La Maison Blanche a élaboré des stratégies pour mettre fin aux abus sexuels basés sur l’image.

L’administration Biden a clairement exprimé sa position sur les deepfakes : les entreprises technologiques doivent jouer un rôle essentiel pour mettre fin à de telles images, générées par l’intelligence artificielle.

Jeudi, la Maison Blanche a publié une liste de mesures que les entreprises technologiques devraient prendre pour lutter contre les abus sexuels basés sur l'image, une forme de violence numérique généralement infligée aux filles, aux femmes et aux personnes lesbiennes, gays, bisexuelles et transgenres.

Deepfake est un terme utilisé pour décrire la création synthétique d’une image ou d’une vidéo, souvent de nature explicite ou sexuelle. Parfois, le matériel est réalisé à partir du visage de la victime obtenu sans son consentement à partir d'une photo ou d'une vidéo existante. Dans d’autres cas, les auteurs utilisent l’IA pour générer du contenu entièrement faux.

Dans une affaire pénale, un homme du Wisconsin a récemment été arrêté et accusé d'avoir produit des milliers d'images d'abus sexuels sur des enfants à l'aide de l'outil d'IA générative de synthèse texte-image appelé Stable Diffusion.

Bien que la Maison Blanche n’ait pas cité ce cas spécifiquement, elle a décrit les abus sexuels basés sur l’image comme l’une des « utilisations nocives de l’IA qui connaissent la croissance la plus rapide à ce jour ».

L'annonce a été rédigée par les responsables de la Maison Blanche, Jennifer Klein, directrice du Conseil de politique de genre, et Arati Prabhakar, directrice du Bureau de la politique scientifique et technologique.

Prabhakar a déclaré à Indigo Buzz lors d'un entretien téléphonique que la Maison Blanche espère que les entreprises impliquées dans la montée des abus sexuels basés sur l'image agiront maintenant et agiront rapidement pour aider à y mettre fin.

« Nous souhaitons vraiment que les entreprises réfléchissent davantage à ce qu'elles peuvent faire et s'efforcent de réellement progresser sur ce problème », a déclaré Prabhakar.

La Maison Blanche a recommandé aux entreprises technologiques de limiter les sites Web et les applications qui créent, facilitent, monétisent ou diffusent des abus sexuels basés sur des images, et de restreindre les services Web et les applications commercialisés comme fournissant aux utilisateurs les outils nécessaires pour créer et modifier des images sexuelles sans le consentement des individus. . Les fournisseurs de services cloud pourraient également interdire aux sites et applications deepfakes explicites d’accéder à leurs produits.

Les magasins d'applications pourraient également exiger des développeurs qu'ils empêchent la création d'images non consensuelles, selon la Maison Blanche. Cette exigence serait essentielle étant donné que de nombreuses applications d’IA sont capables de générer des deepfakes explicites, même si elles ne sont pas annoncées à cette fin.

La Maison Blanche a appelé les plateformes de paiement et les institutions financières à restreindre l'accès aux services de paiement pour les sites et applications qui font des affaires dans le domaine des abus sexuels basés sur l'image, en particulier si ces entités font de la publicité pour des images de mineurs.

La Maison Blanche a exhorté l'industrie à « accepter » de trouver des moyens d'aider les survivants adultes et jeunes à supprimer leur contenu non consensuel des plateformes en ligne participantes. Actuellement, le processus de retrait peut être déroutant et épuisant pour les victimes, car toutes les plateformes en ligne ne disposent pas d'un processus clair.

Le Congrès a également un rôle à jouer, a déclaré la Maison Blanche. Il a demandé à l'instance dirigeante de « renforcer les protections juridiques et de fournir des ressources essentielles aux survivants et aux victimes d'abus sexuels basés sur l'image ». Il n’existe actuellement aucune loi fédérale qui criminalise la génération ou la diffusion d’images explicites et deepfake.

La déclaration de la Maison Blanche reconnaît les enjeux élevés des abus sexuels fondés sur l'image : « Pour les survivants, ces abus peuvent être dévastateurs, bouleverser leur vie, perturber leur éducation et leur carrière, et conduire à la dépression, à l'anxiété, au trouble de stress post-traumatique et à une augmentation des violences sexuelles. risque de suicide. »

Prabhakar a déclaré que la technologie sous-jacente à l'IA générative était extrêmement prometteuse, mais elle a décrit les abus sexuels basés sur l'image comme une « application dommageable et laide » de celle-ci, qui se développe.

« Une partie de la raison pour laquelle il faut bien faire les choses », a-t-elle ajouté, « est de permettre à cette technologie d'être utilisée pour les bonnes choses qui peuvent survenir. »