Bumble lance un outil d’IA pour éliminer les escroqueries et les faux profils

Deception Detector vise à se débarrasser des contrefaçons.

Peu importe ce que vous recherchez sur une application de rencontres, la plupart d’entre nous sont d’accord sur une chose : nous voulons parler à de vrais êtres humains. Pas de spammeurs, pas d’escrocs et certainement pas de faux profils.

Bumble lance un nouvel outil basé sur l’IA appelé Deception Detector, pour éliminer le spam, les arnaques et les faux profils, dans le but d’agir avant que les utilisateurs ne voient les profils. Lors des tests du nouvel outil, Bumble a découvert que Deception Detector bloquait automatiquement 95 % des profils de spam et d’arnaque. Les rapports de spam, d’arnaques et de faux comptes ont été réduits de 45 % pendant la phase de test.

Selon une étude de Bumble, les dateurs sont particulièrement inquiets du risque d’escroquerie et de faux profils. 46 % des femmes interrogées par Bumble ont déclaré qu’elles se sentaient inquiètes quant à l’authenticité de leurs correspondances en ligne sur les applications de rencontres. D’autres applications de rencontres ont également dû intensifier leurs efforts dans la lutte contre les escrocs amoureux, le Match Group introduisant des messages dans l’application pour avertir les utilisateurs des comportements frauduleux courants.

Deception Detector utilise un modèle basé sur l’apprentissage automatique pour évaluer la véracité des profils sur l’application. L’outil d’IA automatisé fonctionne avec le support humain.

Le problème des escroqueries dans le domaine des applications de rencontres s’est aggravé ces dernières années. En 2021, les gens auraient perdu 547 millions de dollars à cause des escroqueries amoureuses, soit une augmentation de 80 % par rapport à 2020.

« Ces dernières années, le paysage en ligne a considérablement évolué et nous constatons une préoccupation croissante concernant l’authenticité », a déclaré Lidiane Jones, PDG de Bumble Inc., dans un communiqué de presse.

Jones a ajouté : « En mettant l’accent sur l’expérience des femmes en ligne, nous reconnaissons qu’à l’ère de l’IA, la confiance est plus primordiale que jamais. Nous réfléchissons à la meilleure façon d’utiliser les nouveaux modèles pour réduire l’anxiété liée à l’établissement de liens et soutenir notre communauté. , avec l’IA comme principal domaine d’intérêt. »

Ce n’est pas la première fois que Bumble lance un outil alimenté par l’IA. En 2019, l’application a lancé son outil d’IA Private Detector, qui alerte les utilisateurs lorsqu’ils reçoivent une photo obscène et rend automatiquement l’image floue. Bumble a depuis mis à disposition une version de l’outil à la communauté technologique au sens large sous forme de code open source.