Savez-vous qui publie des photos de votre enfant en ligne ?

Avec les progrès rapides de l’IA, les parents devraient réfléchir à deux fois avant de renoncer aux droits sur les images de leurs enfants.

Récemment, un groupe d’adolescentes a fait la découverte choquante que des garçons de leur lycée du New Jersey avaient rassemblé des images d’elles-mêmes qu’ils avaient publiées sur les réseaux sociaux, puis utilisaient ces images pour générer de faux nus.

Les garçons, qui ont partagé les nus dans une discussion de groupe, auraient fait cela à l’aide d’un outil numérique alimenté par l’intelligence artificielle, selon le Wall Street Journal.

L’incident constitue une violation effrayante de la vie privée. Mais cela illustre également à quelle vitesse l’IA remodèle fondamentalement les attentes concernant ce qui pourrait arriver aux images en ligne. Ce que cela signifie pour les enfants et les adolescents est particulièrement inquiétant.

Un rapport récent publié par l’Internet Watch Foundation révèle que l’IA est de plus en plus utilisée pour créer du matériel réaliste sur les abus sexuels sur des enfants. Certaines de ces images sont générées à partir de zéro, à l’aide d’un logiciel basé sur l’IA. Mais une partie de ce matériel est créée à partir d’images d’enfants accessibles au public, qui ont été récupérées sur Internet et manipulées à l’aide de l’IA.

Les parents qui ont vu les gros titres de ces développements ont peut-être commencé à réfléchir à deux fois avant de partager librement l’image de leur enfant sur les réseaux sociaux, et ont peut-être découragé les préadolescents et les adolescents de publier des photos entièrement publiques d’eux-mêmes.

Mais on parle peu de la façon dont les tiers qui interagissent et servent régulièrement les enfants et les adolescents, comme les camps d’été, les associations parents-enseignants et les équipes sportives, utilisent régulièrement les images de ces enfants pour leur marketing en ligne et sur les réseaux sociaux. Ils peuvent demander, voire indiquer qu’ils ont besoin, à cette fin, l’autorisation des parents dans le cadre de renonciations légales. Pourtant, certains tiers peuvent ne pas demander d’autorisation du tout, en particulier si les enfants se trouvent dans un espace public, comme une école ou un événement sportif.

Le risque que l’image d’un enfant soit supprimée du compte Instagram PTA d’une école, par exemple, et utilisée pour créer du matériel pédopornographique est probablement très faible, mais il n’est plus nul non plus.

Comment protéger l’image de votre enfant en ligne

John Pizzuro, ancien commandant du groupe de travail sur les crimes contre les enfants sur Internet dans le New Jersey, a déclaré à Indigo Buzz que les photos d’enfants disponibles en ligne il y a quelques années seulement étaient difficiles à manipuler avec le logiciel qui existait à l’époque.

Désormais, un mauvais acteur peut supprimer numériquement de manière transparente l’arrière-plan d’une image mettant en scène un enfant, puis superposer facilement le jeune sur un autre arrière-plan, selon Pizzuro, PDG de Raven, un groupe de défense et de lobbying axé sur la lutte contre l’exploitation des enfants.

Pizzuro a déclaré que chaque organisation qui prend des images d’enfants et les publie en ligne « porte une certaine sorte de responsabilité » et devrait avoir des politiques en place pour faire face à la menace de matériel d’abus sexuel d’enfants généré par l’IA.

« Plus il y a d’images, plus vous pouvez utiliser des programmes pour changer les choses ; c’est le danger », a déclaré Pizzuro, faisant référence à la façon dont un outil de génération d’images IA peut s’améliorer avec chaque image unique qu’il ingère.

Un moyen simple pour les parents d’éliminer la possibilité que l’image de leur enfant finisse entre de mauvaises mains est de refuser lorsque des tiers demandent l’autorisation de photographier et de publier des images à des fins de marketing ou à d’autres fins. L’autorisation est souvent incluse dans les documents d’inscription lorsque les parents inscrivent leurs enfants à un camp, à des sports et à des activités parascolaires.

Les écoles incluent généralement le formulaire dans les documents d’inscription annuels. Même si cela peut être difficile à trouver dans les petits caractères, les parents devraient prendre le temps d’examiner la renonciation et de prendre la décision intentionnelle de céder les droits sur les photos de leurs enfants.

Si les parents ne parviennent pas à localiser cette langue, ils peuvent également interroger l’entité sur ses politiques et pratiques de partage d’images et indiquer clairement qu’ils n’ont pas autorisé la publication de l’image de leur enfant en ligne ou ailleurs. Si un parent a déjà donné son consentement au tiers, il peut demander à retirer son autorisation.

Pizzuro a déclaré que si un parent découvre une photo de son enfant sur Instagram publiée sans consentement, il peut déposer une demande de retrait. La même chose est vraie pour Facebook. Twitter n’autorise pas les utilisateurs à publier des images de particuliers sans leur consentement et leurs parents peut signaler ces infractions. Les parents peuvent également signaler les violations de la vie privée impliquant leurs enfants sur TikTok.

Qui pourrait prendre et partager des photos de votre enfant ?

Indigo Buzz a demandé les commentaires de certaines des principales organisations qui s’engagent auprès des enfants aux États-Unis (National PTA, Girl Scouts of the USA, Boy Scouts of America, American Camp Association, National Alliance for Youth Sports) sur leur approche de l’IA et des images numériques des enfants. . Nous avons reçu des réponses variées.

Un porte-parole des Girl Scouts a déclaré à Indigo Buzz dans un e-mail que l’organisation avait convoqué une « équipe interfonctionnelle » plus tôt cette année, composée d’experts internes en matière juridique, technologique et de programme pour examiner et surveiller les développements de l’IA tout en encourageant l’utilisation responsable de ces technologies.

Actuellement, toute apparition dans une vidéo ou une photo en ligne liée aux Girl Scouts nécessite l’autorisation du parent ou du tuteur de chaque fille pour chaque membre photographié.

« Nous nous engageons à rester à l’avant-garde de ces développements pour assurer la protection de nos membres », a écrit le porte-parole.

Un porte-parole des Boy Scouts of America a partagé les directives de l’organisation en matière de médias sociaux, qui notent que les vidéos et les images des scouts sur les plateformes de médias sociaux doivent protéger la vie privée de chaque scout. Aux niveaux local et national, la BSA doit obtenir l’autorisation parentale avant de publier des photos d’enfants sur les réseaux sociaux, et les parents peuvent se désinscrire à tout moment. En général, la politique de la BSA se concentre sur l’identification d’un enfant aussi vaguement que possible dans les publications sur les réseaux sociaux, par exemple en utilisant ses initiales au lieu de son nom complet.

Si la solution au problème des images partagées publiquement semble être la fermeture de comptes de réseaux sociaux suivis uniquement par ceux qui y sont autorisés, les lignes directrices de la BSA démontrent pourquoi cette approche est plus compliquée qu’il n’y paraît.

Ils interdisent les canaux de médias sociaux privés afin que les administrateurs puissent surveiller la communication entre les scouts et les dirigeants adultes, ainsi qu’avec d’autres scouts, afin de garantir qu’il n’y a pas d’échanges inappropriés. La transparence présente des avantages évidents, mais cette politique est un exemple de la difficulté de concilier les préoccupations en matière de confidentialité et de sécurité.

Heidi May Wilson, responsable principale des relations avec les médias pour National PTA, a déclaré dans un e-mail que l’organisation à but non lucratif fournit des conseils aux PTA locales pour que les parents signent des communiqués de presse et des formulaires de consentement, garantissant que les parents ont donné la permission de publier des photos prises de leurs enfants, et dire aux familles lors d’événements de ne pas prendre ou publier de photos d’autres enfants que les leurs. Elle a déclaré que la National PTA surveillait les progrès de l’IA.

L’American Camp Association n’a pas répondu spécifiquement aux multiples demandes de commentaires par courrier électronique sur ses lignes directrices et ses meilleures pratiques. Un porte-parole de l’Alliance nationale pour les associations sportives de la jeunesse n’a pas répondu aux demandes de commentaires par courrier électronique.

L’avenir des images d’enfants en ligne

La baronne Beeban Kidron, fondatrice et présidente de la Fondation 5Rights, une organisation à but non lucratif basée à Londres qui œuvre pour les droits des enfants en ligne, a déclaré que les parents devraient considérer les contenus d’abus sexuels sur enfants manipulés ou générés par l’IA comme un problème actuel, et non comme une menace existentielle qui pourrait survenir. passer dans le futur.

Kidron travaille avec une équipe secrète d’application de la loi qui enquête sur les matériels d’abus sexuels sur enfants générés par l’IA et a noté, avec détresse, à quelle vitesse la technologie de l’IA avait progressé, même en quelques semaines, sur la base d’images d’abus sexuels sur des enfants utilisant un tel logiciel qu’elle avait vu. cet été et cet automne.

« À chaque fois, ils étaient plus réalistes, plus nombreux », a déclaré Kidron, qui est également membre de la Chambre des Lords du Royaume-Uni et a joué un rôle important dans l’élaboration de la législation sur la confidentialité et la sécurité des enfants en ligne au Royaume-Uni et dans le monde.

Kidron a déclaré qu’il y a eu un échec total à prendre en compte la sécurité des enfants « alors que les entreprises créent une IA toujours plus puissante sans garde-fous ».

Aux États-Unis, par exemple, aucune des lois pénales existantes n’interdit ou ne punit la création de matériel falsifié ou manipulé à caractère pédosexuel, selon Pizzuro. S’il est illégal de diffuser du matériel pédopornographique, la loi ne s’applique pas non plus spécifiquement aux images générées par l’IA. Raven fait pression sur les membres du Congrès pour combler ces lacunes.

Pizzuro a également déclaré que la disponibilité d’images d’enfants en ligne aide les prédateurs même lorsqu’ils ne créent pas de contenu abusif avec eux. Au lieu de cela, les mauvais acteurs et les prédateurs peuvent utiliser l’IA pour « apprendre automatiquement un enfant ».

Pizzuro a décrit ce processus comme utilisant l’IA pour créer des comptes de réseaux sociaux convaincants mais faux pour des enfants qui existent réellement, avec leur image ainsi que des détails sur leurs informations personnelles et leurs intérêts rapidement glanés sur Internet. Ces comptes peuvent ensuite être utilisés personnellement par un prédateur pour préparer d’autres enfants à des abus ou à des incitations sexuelles en ligne.

« Maintenant, grâce à l’IA générative, (un prédateur) peut préparer les gens à grande échelle », a déclaré Pizzuro. Auparavant, un prédateur devait soigneusement rassembler et étudier les informations disponibles en ligne sur un enfant avant de créer un faux compte.

Par ailleurs, Kidron a sombrement souligné que certaines personnes qui créent du matériel pédopornographique en utilisant l’IA peuvent être connues d’une famille. Un voisin, un ami ou un parent, par exemple, peut récupérer l’image d’un enfant sur les réseaux sociaux ou sur le site Web d’une école et faire en sorte que le contenu sur les abus sexuels sur enfants soit « réalisé sur commande ».

Kidron a déclaré que même si les entreprises technologiques prétendent ne pas savoir comment aborder ou résoudre le problème de l’IA et de la vie privée des enfants, elles ont investi de manière significative dans l’identification des contenus qui portent atteinte aux droits de propriété intellectuelle d’autres entreprises (pensez aux chansons et aux clips vidéo publiés sans autorisation). .

En l’absence de réponse juridique claire aux menaces que l’IA fait peser sur la sécurité des enfants, Kidron a déclaré que les parents pourraient faire pression sur les sociétés de médias sociaux en refusant de publier des images de leurs enfants en ligne, que ce soit dans un cadre privé ou public, ou même en les boycottant. les sites dans leur ensemble. Elle a suggéré que de telles protestations pourraient encourager l’industrie technologique à repenser son approche réticente à l’égard d’une réglementation accrue.

Kidron comprend pourquoi les parents pourraient rendre leurs comptes de réseaux sociaux privés ou même mettre des cœurs ou des emoji sur le visage de leurs enfants dans le but de protéger leur vie privée, mais elle a déclaré qu’elle préférerait voir davantage d’investissements dans les technologies qui empêchent de récupérer des images sans autorisation, entre autres. et des solutions d’entreprise.

Kidron ne veut pas voir une réalité dystopique, dans laquelle l’IA deviendrait un outil facilement accessible pour les prédateurs et où aucune photo d’enfant ne serait en sécurité en ligne.

« Quel triste monde si nous ne sommes plus jamais autorisés à partager la photo d’un enfant », a déclaré Kidron.