Les conséquences d'un deepfake non consensuel

Réaliser un deepfake non consensuel pourrait entraîner des répercussions juridiques et financières.

L'avocat Sean Smith a pu constater de près comment les deepfakes non consensuels, une forme d'abus sexuel basé sur des images, peuvent ruiner des vies.

Smith, avocat spécialisé en droit de la famille au sein du cabinet Brach Eichler de Roseland, dans le New Jersey, a récemment représenté les familles de victimes mineures et d'auteurs de violences tout au long de procédures disciplinaires en matière d'éducation.

Parmi ses clients figurent des adolescentes dont les images ont été prises sur les réseaux sociaux, puis « déshabillées » numériquement par leurs camarades de classe masculins, qui ont utilisé un logiciel fonctionnant avec l'intelligence artificielle.

Les applications et sites Web capables de créer des deepfakes explicites et non consensuels se présentent généralement comme des outils de satisfaction de la curiosité ou de divertissement. Par conséquent, les utilisateurs ne comprennent probablement pas que les images qui en résultent peuvent infliger un traumatisme douloureux et permanent à la personne dont l'image a été volée (qui est presque toujours une fille ou une femme). La victime ne sera peut-être jamais en mesure de supprimer toutes les photos ou vidéos synthétiques d'Internet, étant donné la difficulté de suivre et de supprimer ce type de contenu.

Cela peut conduire à une dévastation professionnelle, personnelle et financière pour les survivants. Il peut en être de même pour les auteurs lorsque leur nom et leur réputation sont associés à la création de deepfakes non consensuels. Ils peuvent être suspendus ou expulsés s'ils sont étudiants, et également faire face à des sanctions pénales et civiles, selon leur lieu de résidence.

« Cela détruit des vies de tous côtés », a déclaré Smith à Indigo Buzz.

Cela n’est généralement pas clairement expliqué aux jeunes et aux adultes qui commettent des abus sexuels basés sur des images.

Est-il illégal de faire un deepfake ?

Malgré l’absence d’informations sur les conséquences des deepfakes non consensuels, leur augmentation a incité plusieurs États à adopter une législation les criminalisant.

Le Congrès a présenté, mais n'a pas encore voté, un projet de loi qui donnerait aux victimes le droit d'engager des poursuites civiles contre les auteurs de ces actes. Un autre projet de loi fédéral criminaliserait la publication d'images intimes non consensuelles, y compris celles créées par l'IA, et obligerait les réseaux sociaux à supprimer ce contenu à la demande de la victime.

Dans certains États, les contrevenants peuvent être passibles de sanctions civiles si la victime les poursuit avec succès pour obtenir des dommages et intérêts. Leur salaire peut être saisi ou leurs biens saisis pour payer ces dommages et intérêts.

L’année dernière, l’Illinois a modifié une loi existante afin de rendre les auteurs de deepfakes responsables lorsqu’ils diffusent des images synthétiques non consensuelles. Un survivant peut poursuivre la personne qui diffuse le contenu pour dommages et intérêts, qui peuvent résulter d’une détresse émotionnelle, du coût d’un traitement de santé mentale, de la perte d’un emploi et d’autres coûts connexes.

« Lorsque les lois seront appliquées, cela restera une tache noire qui suivra une personne pendant très longtemps… »

À New York, la diffusion de deepfakes non consensuels peut entraîner une année de prison, une amende et des poursuites civiles. La Floride impose des sanctions pénales et civiles pour la « promotion » de matériel synthétique non consensuel. La loi de l'État a également élargi la définition de la « pornographie enfantine » pour inclure les deepfakes de mineurs engagés dans des relations sexuelles.

L’Indiana, le Texas et la Virginie font partie des États qui ont rendu la création de deepfakes non consensuels passible d’une peine de prison.

Cependant, de nombreux États ne disposent pas encore de lois rendant illégale la création ou la distribution de deepfakes, ni ne donnent aux victimes le droit d'engager des poursuites judiciaires. En outre, il peut être difficile pour les victimes d'engager des poursuites pénales ou civiles contre la personne qui a promu le contenu, car son identité est inconnue ou parce que les forces de l'ordre ne disposent pas de suffisamment de personnel pour enquêter sur d'éventuels crimes.

Mais Matthew B. Kugler, professeur de droit à l'Université Northwestern, estime que cela ne devrait pas donner aux gens un faux sentiment de sécurité.

« Lorsque les lois seront appliquées, cela restera une tache noire qui suivra une personne pendant très longtemps, et personne ne se sentira mal du fait que cette tache noire suivra (le contrevenant) pendant très longtemps », explique Kugler.

En 2020, Kugler a étudié les attitudes du public à l’égard des vidéos deepfake sexuellement explicites et non consensuelles dans le cadre d’une enquête menée auprès de 1 141 adultes américains. La grande majorité des personnes interrogées souhaitaient criminaliser cet acte.

La création d’images deepfake non consensuelles peut également avoir une autre conséquence juridique potentielle, que l’État du contrevenant impose ou non des sanctions pénales ou civiles.

Adam Dodge, avocat et fondateur de Ending Tech-Enabled Abuse (EndTAB), explique qu'une victime peut déposer une demande d'ordonnance de protection ou de restriction si elle sait qui est responsable de la création ou de la diffusion de l'image. Dans de nombreuses juridictions, l'abus basé sur l'image est considéré comme une forme de harcèlement.

Selon Dodge, de telles ordonnances de protection peuvent être découvertes lors de recherches d'antécédents menées par des employeurs potentiels. Une ordonnance de protection peut également être appliquée à un jeune délinquant. Bien que le casier judiciaire d'un mineur soit censé être scellé, Dodge a vu des cas où les informations sont devenues publiques.

Qu'advient-il des mineurs qui créent ou partagent un deepfake non consensuel ?

Les adolescents qui découvrent des applications ou des sites deepfake, soit par le bouche à oreille, soit par des stratégies de marketing et de recherche Internet impitoyables, ne comprennent souvent pas les conséquences potentielles pour les victimes ou pour eux-mêmes, explique Smith.

Il souligne que le phénomène étant si nouveau, la discipline scolaire peut varier considérablement. Dans les écoles publiques, qui sont légalement obligées de garder les élèves inscrits autant que possible, la sanction peut aller d'une brève suspension à l'intérieur ou à l'extérieur de l'école.

Mais Smith affirme que les écoles privées, avec leurs propres codes de conduite, pourraient rapidement aller jusqu’à l’expulsion.

Les parents de la victime peuvent également intenter une action en justice pour tenter de faire rendre des comptes à l'agresseur et à sa famille. Bien que Smith n'ait pas encore vu de cas de ce genre, il s'attend à ce que certains parents commencent à intenter des poursuites civiles contre les parents de l'agresseur pour négligence dans la surveillance. Les dommages et intérêts obtenus pourraient potentiellement être couverts par l'assurance habitation, à moins que l'assureur des parents ne limite ces réclamations.

Les adolescents peuvent également être passibles de sanctions pénales, notamment celles liées à la pornographie juvénile et à d'autres lois pénales. Smith a connaissance de poursuites judiciaires contre des adolescents qui ont créé des deepfakes non consensuels. Bien qu'ils n'aient pas purgé de peine de prison, les délinquants ont conclu un accord privé avec l'État pour se déclarer coupables de leurs actes.

En Floride, cependant, deux adolescents ont été arrêtés et inculpés de crimes en décembre dernier pour avoir diffusé des deepfakes non consensuels.

Smith affirme que les parents et les adolescents doivent de toute urgence comprendre ces conséquences et d’autres.

« Le problème avec cette technologie, c'est que les parents et les enfants ne se rendent pas compte de l'ampleur de l'erreur que représente son utilisation », explique Smith. « La simple introduction de cette technologie sur un téléphone portable… peut engendrer une erreur bien plus grave qui durera toute une vie. »

Si des images intimes ont été partagées sans votre consentement, appelez la ligne d'assistance téléphonique 24h/24 et 7j/7 de la Cyber ​​Civil Rights Initiative au 844-878-2274 pour obtenir une assistance gratuite et confidentielle. Le site Web du CCRI contient également des informations utiles ainsi qu'une liste de ressources internationales.