Comment Tinder développe-t-il les fonctionnalités qui vous protègent ?

Indigo Buzz a parlé à l’équipe derrière les outils de sécurité de Tinder.

Qui décide de ce dont nous avons besoin pour rester en sécurité en ligne ? Et comment savent-ils de quelles fonctionnalités nous bénéficierions ?

Chez Tinder, une personne jouant un rôle essentiel dans les fonctionnalités de sécurité de l’application de rencontres est Rory Kozoll, vice-président senior de l’intégrité des produits de Tinder. Kozoll dirige l’équipe qui développe des outils et des ressources intégrés à l’application qui visent à maintenir les interactions des utilisateurs respectueuses et sûres.

Tinder a lancé une multitude de nouvelles mises à jour et fonctionnalités de sécurité, notamment une fonction de rapport de presse longue, vous permettant d’appuyer et de maintenir les messages de chat pour démarrer directement le processus de rapport. Cela signifie qu’il est désormais plus facile de signaler le harcèlement, les discours de haine ou tout autre texte offensant qui enfreint les règles de la communauté de l’application..

72% des 18-25 ans sont aussi préoccupés par leur sécurité émotionnelle que par leur sécurité physique, selon une récente enquête menée par Opinium pour le compte de Tinder. L’enquête, qui examine largement les interactions en ligne, a également révélé que 40 % des 18-25 ans ont été témoins de discours de haine en ligne, et 30 % des personnes admettent avoir envoyé des messages nuisibles en ligne qu’elles regrettent par la suite. En plus de cela, Tinder étend son offre « Est-ce que cela vous dérange? » et ‘Êtes-vous sûr?’ fonctionnalités pour élargir sa catégorisation du discours de haine, du harcèlement et de l’exploitation sexuelle.

Pour les femmes et les sexes marginalisés, être sur des applications de rencontres, des médias sociaux ou simplement exister en ligne en général peut aller de pair avec du harcèlement sexuel, recevoir des messages sexuels non consensuels et non désirés, en plus de subir des violations telles que le cyberflashing.

Comment Tinder sait-il de quelles fonctionnalités de sécurité les utilisateurs ont besoin ?

Kozoll a parlé à Indigo Buzz de la manière dont les outils de sécurité de Tinder sont développés et des quatre principales sources d’informations qui alimentent le processus.

« Nos membres nous diront que quelque chose les a dérangés et cela nous donnera le signal que nous devons déballer et essayer de comprendre quelle peut être l’infraction et comment nous pouvons contribuer à réduire cette infraction », dit-il. « La deuxième source est ce que nous pouvons voir très clairement dans nos données. Et la troisième est que nous travaillons avec de nombreux partenaires extérieurs, à la fois dans l’espace de sécurité des genres et dans l’espace LGBTQIA et d’autres groupes sous-représentés pour nous informer. »

Vous voulez plus d’histoires de sexe et de rencontres dans votre boîte de réception ? Inscrivez-vous à la nouvelle newsletter hebdomadaire After Dark de Indigo Buzz.

La quatrième source est « un peu plus d’art que de science », dit Kozoll, se référant à « l’intuition du produit ». Les propres employés de Tinder utilisent l’application et ils rendront compte et discuteront de leurs propres expériences pour informer ce qu’ils pensent devoir changer sur la plate-forme.

« Est-ce que ça te dérange ? » de Tinder fonction est venue d’une expérience de la vie réelle.

Dans le cas de « Est-ce que ça vous dérange? » de Tinder fonctionnalité, un incident réel a conduit à l’introduction de cet outil sur l’application. L’outil utilise l’apprentissage automatique pour signaler les messages potentiellement offensants, incitant un message automatisé à apparaître pour les destinataires du message lorsqu’un langage nuisible entre dans une conversation. Avec cette invite, les utilisateurs ont la possibilité instantanée de signaler le mauvais comportement s’ils le souhaitent.

Vous voulez plus d’histoires de sexe et de rencontres dans votre boîte de réception ? Inscrivez-vous aux newsletters Top Stories et Deals de Indigo Buzz aujourd’hui.

Avant la sortie de cette fonctionnalité, Kozoll et son équipe avaient examiné les catégories de messages offensants. Lorsqu’il s’agit de ce que Kozoll décrit comme « un discours plus direct » (lire : des messages sexuellement explicites), le facteur clé à prendre en compte est le consentement.

« Les gens peuvent ouvrir la porte, disons, à des discussions plus avant-gardistes. Nous voulons nous assurer que nous respectons toujours la ligne entre la sécurité de tout le monde et le confort de chacun, et que nous ne nous imposons pas nous-mêmes et nos propres valeurs à nos membres. , » il dit.

Kozoll dit que lui et son équipe observent constamment des exemples concrets des problèmes que les gens peuvent rencontrer sur l’application.

« J’étais en train de dîner avec ma femme, en marchant vers un restaurant à Santa Monica. Cette voiture passe avec ces jeunes gars et l’un d’eux se penche par la fenêtre et crie. Quand je me suis retourné, j’ai pu voir qu’il y avait une jeune femme toute seule marchant derrière nous. On pouvait la voir visiblement mal à l’aise avec les mecs qui criaient », explique-t-il. « Ils ont continué à conduire et par instinct, je me suis retourné et j’ai dit: » Hé, ça va? Tu veux marcher avec nous? Il s’est avéré qu’elle marchait vers le même restaurant. » À ce moment-là, la femme de Kozoll lui a dit : « Tu ne sais pas à quel point il est rare que quelqu’un demande simplement ‘ça va ?’

« C’était la graine – juste parce que nous ne savons pas avec certitude que ces messages sont problématiques pour cette personne, cela ne fait jamais de mal de lui demander simplement s’il va bien. Et c’est là que ‘Est-ce que cela vous dérange?’ vient », ajoute-t-il.

Quel rôle réel Tinder veut-il jouer ici ?

En ce qui concerne les défis auxquels l’équipe de Tinder est confrontée lors de l’examen des besoins de sécurité, Kozoll dit qu’il s’agit de « découvrir où se situe la bonne ligne entre s’assurer que tout le monde est à l’aise, mais aussi leur donner la liberté de s’exprimer et d’avoir le genre de conversation qu’ils veulent avoir. »

« Nous nous considérons comme l’hôte d’une fête et nous avons invité tous ces invités. Nous espérons que les gens s’entendront bien et qu’ils rencontreront quelqu’un d’excitant et de nouveau. Nous ne sommes pas là pour dire aux gens comment parler Mais nous sommes là si quelqu’un regarde à travers la pièce et nous donne l’air de dire « hé, je suis vraiment mal à l’aise ici », nous devons intervenir et aider à résoudre la situation. Parfois, cela signifie demander à quelqu’un de quitter le parti, et c’est le rôle que nous essayons de jouer », dit-il.

Alors, pourquoi Tinder a-t-il élargi le champ d’application en matière de discours de haine ? Kozoll dit que cela a à voir avec la manière dont la langue évolue dans la société.

« Le langage évolue constamment, les emoji évoluent constamment, les gens deviennent de plus en plus créatifs, ils n’essaient pas d’échapper à tout ce que nous faisons. Mais c’est juste que le langage change tout le temps, et nous devons donc nous adapter très rapidement à cela », dit-il.

« Au fur et à mesure que nous évoluons dans notre compréhension, nous allons constamment mettre à jour ces modèles », ajoute Kozoll. « Il s’agit d’un flux de travail incessant, faisant évoluer ces modèles d’apprentissage automatique et ces listes de mots-clés pour les rendre plus aptes à identifier le contexte dans lequel ces mots apparaissent, ainsi que les nouveaux mots qui apparaissent également dans le lexique. »

En savoir plus sur la sécurité dans le monde des rencontres en ligne :

• Comment se retrouver en toute sécurité à un rendez-vous Tinder

• Tinder vous permettra de vous cacher des gens à moins que vous ne les aimiez d’abord

• Match Group lance une campagne pour arrêter les escroqueries amoureuses