Bumble ajoute une option pour signaler les photos et vidéos de l'IA

La plupart des milléniaux et de la génération Z pensent qu’il devrait y avoir une limite aux médias générés par l’IA sur les applications de rencontres.

Des mois après avoir lancé l'outil de filtrage Deception Detector, qui utilise l'IA pour éliminer les spams, les escroqueries et les faux profils, l'application de rencontres Bumble a annoncé un moyen de signaler les profils suspects générés par l'IA.

Certains utilisateurs n'ont pas hésité à utiliser l'IA générative pour rédiger des biographies d'applications de rencontre, voire pour avoir des conversations avec des personnes avec qui ils correspondent. Plus tôt cette année, la fondatrice et ancienne PDG de Bumble, Whitney Wolfe Herd, est allée plus loin en affirmant que les concierges IA organiseront des rencontres pour nous à l'avenir.

En revanche, les photos et vidéos générées par l'IA ne semblent pas vraiment être appréciées. Selon les résultats d'une récente enquête de Bumble partagée avec Indigo Buzz, 71 % des répondants de la génération Y et de la génération Z ont déclaré qu'il devrait y avoir des limites à l'utilisation de ce type de média sur les applications de rencontre. Parmi ces personnes, 71 % ont déclaré que les personnes utilisant du contenu généré par l'IA pour les représenter en train de faire des choses qu'elles n'ont jamais faites – ou de visiter des endroits où elles ne sont jamais allées – sont qualifiées de catfishing.

Sur Bumble, vous pouvez désormais signaler de tels profils en faisant défiler l'écran vers le bas et en appuyant sur le bouton « Masquer et signaler ». Sélectionnez l'option « Faux profil » puis la raison « Utilisation de photos et vidéos générées par l'IA ». Vous pouvez également écrire plus de détails si vous le souhaitez.

Comme Indigo Buzz l'a déjà signalé, Deception Detector a entraîné une diminution de 45 % des signalements de faux comptes lors de sa phase de test. Nous verrons combien de signalements de profils générés par l'IA Bumble recevra à l'avenir.

« Pour créer un espace de rencontre significatif, il est essentiel de supprimer tout élément trompeur ou dangereux. Nous nous engageons à améliorer continuellement notre technologie afin de garantir que Bumble soit un environnement de rencontre sûr et fiable », a déclaré Risa Stein, vice-présidente des produits de Bumble, dans le communiqué de presse. « En introduisant cette nouvelle option de signalement, nous pouvons mieux comprendre comment les acteurs malveillants et les faux profils utilisent l'IA de manière trompeuse afin que notre communauté se sente en confiance pour établir des relations. »