Microsoft Bing renforce sa capacité à empêcher l'apparition d'images deepfake explicites dans les résultats de recherche

C'est le premier moteur de recherche à rejoindre StopNCII, un outil international de détection du revenge porn.

Microsoft Bing dispose désormais de davantage de pouvoirs pour empêcher les images générées par l'IA ou les deepfakes, une forme d'abus d'images intimes non consensuelles (NCII), d'apparaître sur le moteur de recherche, alors que la société annonce un nouveau partenariat à but non lucratif.

En collaboration avec l'outil de défense des victimes StopNCII, Microsoft complète son système de signalement des utilisateurs avec une approche plus « centrée sur la victime » intégrant un processus de détection plus approfondi, a expliqué l'entreprise. StopNCII, une plateforme gérée par l'association britannique SWGfl et la Revenge Porn Helpline, offre aux individus la possibilité de créer et d'ajouter des empreintes digitales numériques (également appelées « hachage ») à des images intimes, qui peuvent ensuite être suivies pour supprimer les images au fur et à mesure qu'elles apparaissent sur certaines plateformes.

Basé sur un projet pilote mené en août, le nouveau système de Microsoft exploite la base de données StopNCII pour signaler immédiatement les images intimes et empêcher leur apparition dans les résultats de recherche Bing. Microsoft affirme avoir déjà « pris des mesures » concernant 268 000 images explicites.

Les hachages de StopNCII sont utilisés par des sites sociaux comme Facebook, Instagram, TikTok, Threads, Snapchat et Reddit, ainsi que par des plateformes comme Bumble, OnlyFans, Aylo (propriétaire de plusieurs sites pornographiques populaires, dont PornHub), et même Niantic, le développeur AR derrière Pokémon Go. Bing est le premier moteur de recherche à rejoindre la coalition de partenaires.

Google, qui lutte également contre les contenus deepfake non consensuels, a pris des mesures similaires pour remédier à l'apparition d'images deepfake dans les résultats de recherche, en plus des images réelles non consensuelles. Au cours de l'année dernière, l'entreprise a remanié son système de classement de recherche pour réduire le contenu synthétique explicite dans les résultats, en remplaçant les résultats affichés par « du contenu de haute qualité et non explicite », a expliqué l'entreprise, comme des articles de presse. Google a également annoncé qu'il rationalisait son processus de signalement et d'examen pour accélérer la suppression de ce type de contenu – la plateforme de recherche dispose déjà d'un système similaire pour la suppression des images réelles non consensuelles, ou deepfake porn.

Mais il lui reste encore à rejoindre StopNCII et à utiliser sa technologie de hachage. « Les moteurs de recherche sont inévitablement la passerelle par laquelle les images sont trouvées, donc cette démarche proactive de Bing met le bien-être des personnes directement concernées au premier plan », a déclaré Sophie Mortimer, responsable de la ligne d'assistance Revenge Porn.

Microsoft a mis en place des procédures de signalement similaires pour les abus sexuels sur mineurs basés sur des images réelles, ainsi que des politiques de conduite strictes contre l'extorsion intime, également connue sous le nom de sextorsion. Plus tôt cette année, Microsoft a fourni à StopNCII sa technologie interne PhotoDNA, un outil de « prise d'empreintes digitales » similaire qui a été utilisé pour détecter et aider à supprimer les contenus d'abus sexuels sur mineurs.

Comment signaler des images intimes avec StopNCII

Si vous pensez que votre image (explicite ou non) risque d'être diffusée ou manipulée par des acteurs malveillants, vous pouvez ajouter votre propre empreinte digitale à StopNCII pour une détection ultérieure. L'outil ne vous oblige pas à télécharger ou à stocker des photos ou des vidéos personnelles sur le site. Au lieu de cela, les images sont conservées sur votre appareil personnel.

1. Visitez Stopncii.org.

2. Cliquez sur « Créer votre dossier » en haut à droite.

3. Naviguez dans les invites personnalisées, qui collectent des informations sur le contenu de l'image ou de la vidéo.

4. Le site vous demandera ensuite de sélectionner des photos ou des vidéos dans la photothèque de votre appareil. StopNCII analyse ensuite le contenu et crée des hachages pour chaque image. Les hachages sont ensuite envoyés aux plateformes participantes. Aucune image ou vidéo ne sera partagée.

5. Enregistrez votre numéro de dossier, qui vous permettra de vérifier si votre image ou vidéo a été détectée en ligne.

Si des images intimes ont été partagées sans votre consentement, appelez la ligne d'assistance téléphonique 24h/24 et 7j/7 de la Cyber ​​Civil Rights Initiative au 844-878-2274 pour obtenir une assistance gratuite et confidentielle. Le site Web du CCRI contient également des informations utiles ainsi qu'une liste de ressources internationales.