Discord interdit les serveurs de rencontres pour adolescents et le matériel d’abus sexuel d’enfants généré par l’IA

Après des allégations de toilettage et d’extorsion sur Discord, la plateforme étend ses politiques de sécurité et améliore la surveillance parentale.

Discord apporte des changements majeurs à ses politiques de sécurité des enfants, interdisant les rencontres avec des adolescents et les images sexuelles d’enfants générées par l’intelligence artificielle. La plate-forme, connue pour être populaire parmi les joueurs, a fait l’objet d’un examen minutieux le mois dernier après une enquête de NBC a constaté que l’exploitation, l’extorsion et le toilettage des enfants étaient monnaie courante sur le site.

Désormais, le hub interdit spécifiquement le contenu créé par l’IA qui sexualise les enfants de quelque manière que ce soit, également pour les représentations textuelles. Dans un article de blogDiscord a déclaré que sa politique sur le matériel d’abus sexuel d’enfants (CSAM) s’est étendue pour inclure « tout contenu textuel ou multimédia qui sexualise les enfants, y compris le matériel d’abus sexuel d’enfants photoréaliste et photoréaliste généré par l’IA ».

Ils ont également clairement exprimé leur position sur le toilettage et la conduite sexuelle avec des mineurs, affirmant que Discord a une « politique de tolérance zéro » pour les comportements prédateurs qui comprend « l’incitation en ligne » et la « sextorsion ».

La plate-forme a également désormais explicitement interdit tous les serveurs dédiés aux rencontres entre adolescents et a déclaré que tout utilisateur de moins de 18 ans ne peut envoyer ou accéder à aucun matériel sexuellement explicite. En ce qui concerne la politique de rencontres, la société a déclaré que « les rencontres en ligne peuvent entraîner une mise en danger de soi ». Directives de Discord avait déjà déclaré que l’entreprise supprimerait tous les espaces qui « encouragent ou facilitent les rencontres entre adolescents », mais cela a été clarifié davantage. De plus, les adolescents plus âgés qui tentent ou s’engagent dans le toilettage d’un adolescent plus jeune seront placés sous examen et poursuivis en vertu de la politique de conduite sexuelle inappropriée avec les enfants et de toilettage de Discord.

Discord est utilisé par 150 millions d’utilisateurs actifs par mois, avec 19 millions de serveurs actifs par semaine. Les enfants de moins de 13 ans ne sont pas autorisés à utiliser Discord.

La plate-forme a déclaré qu’environ 15% de ses employés, dans tous les départements, se consacrent à travailler sur la sécurité et à améliorer cette expérience. Discord a d’abord pris des mesures pour renforcer ses politiques et protéger les mineurs sur le site il y a deux ansmais il manquait toujours le contrôle parental qu’offrent les goûts d’Instagram et de TikTok.

La plateforme vient également de mettre en place un Family Center, permettant aux parents de disposer d’outils de supervision et d’un accès accrus au compte de leur enfant, si l’adolescent le permet. Une fois qu’un utilisateur adolescent s’est inscrit, un parent ou un tuteur peut voir avec qui il interagit, les serveurs qu’il a rejoints et les informations de base des personnes avec lesquelles il a envoyé des messages ou qu’il a appelées en DM.

« Family Center fournit aux parents ce dont ils ont besoin pour guider l’utilisation de Discord par leur adolescent sans être trop invasif », a déclaré Larry Magid, PDG de ConnectSafely.org, un partenaire de Discord. « C’est comme le monde physique où vous savez avec qui vos enfants traînent et où ils vont, mais sans écouter leurs conversations ni microgérer leurs relations. »

Si vous avez fait l’expérience du toilettage, appelez la hotline nationale gratuite et confidentielle sur les agressions sexuelles au 1-800-656-HOPE (4673), ou accédez à l’aide en ligne 24h/24 et 7j/7 en visitant online.rainn.org. Si vous êtes basé au Royaume-Uni, contactez le NSPCC en appelant le 0808 800 5000. Pour signaler des informations sur le toilettage d’enfants, contactez le National Center for Missing and Exploited Children au 1-800-843-5678.. Au Royaume-Uni, vous pouvez signaler des inquiétudes concernant un enfant au NSPCC en appelant le 0808 800 5000 ou en envoyant un e-mail (e-mail protégé).