Meta lutte contre les deepfakes et la désinformation en Inde avant les élections de 2024

Alors que la plus grande démocratie du monde se prépare à des élections, la menace des deepfakes n’a jamais été aussi claire.

Le géant de la technologie Meta se prépare aux élections mondiales de 2024, après avoir présenté des plans pour « protéger les élections en ligne » alors que les démocraties mondiales s’apprêtent à voter cette année. L’Inde, souvent considérée comme la plus grande démocratie du monde, fait partie de ces pays, et Meta s’efforce de lutter contre une épidémie de deepfakes et de désinformation avant les élections du printemps.

Lundi, la société a annoncé une ligne d’assistance dédiée à la vérification des faits sur WhatsApp pour les utilisateurs en Inde, lancée en partenariat avec la Misinformation Combat Alliance (MCA) du pays. La ligne d’assistance travaillera spécifiquement à évaluer les médias générés par l’intelligence artificielle, également connus sous le nom de deepfakes. Les gens pourront signaler les deepfakes à un chatbot WhatsApp disponible en anglais et dans trois langues indiennes : hindi, tamoul et telugu. MCA travaillera aux côtés de son unité d’analyse Deepfakes, un réseau de vérificateurs de faits indépendants, d’organismes de recherche et de partenaires industriels pour identifier et vérifier ces contenus, signalant et démystifiant ainsi les informations erronées.

À partir de mars, la ligne d’assistance sera accessible au public. L’Inde compterait 535,8 millions d’utilisateurs actifs mensuels sur WhatsApp, ce qui en fait le pays comptant le plus d’utilisateurs au monde.

Meta affirme que le programme vise à détecter, prévenir et signaler la désinformation, mais également à attirer l’attention et la sensibilisation sur « la propagation croissante des deepfakes ».

Shivnath Thukral, directeur des politiques publiques chez Meta en Inde, déclare : « Nous reconnaissons les inquiétudes concernant la désinformation générée par l’IA et pensons que la combattre nécessite des mesures concrètes et coopératives dans l’ensemble du secteur. »

Son sentiment est repris par le président du MCA, Bharat Gupta, qui a déclaré : « L’unité d’analyse des Deepfakes (DAU) servira d’intervention critique et opportune pour arrêter la propagation de la désinformation basée sur l’IA parmi les médias sociaux et les utilisateurs d’Internet en Inde. »

L’intelligence artificielle a été signalée partout dans le monde comme une menace pour les élections à venir, et l’Inde n’est pas différente. Une nouvelle étude de l’Université George Washington prédit une fréquence quasi quotidienne des « activités d’IA de mauvais acteurs » en 2024 – un danger qui peut « affecter les résultats des élections dans plus de 50 pays » qui se rendront aux urnes cette année. Ces menaces vont des vidéos générées par l’IA publiées sur les plateformes de médias sociaux aux pirates informatiques influençant les résultats, selon le groupe de réflexion sur les affaires internationales Chatham House.

Le contenu généré par l’IA est devenu une sorte d’épidémie en matière de politique indienne : une enquête récente d’Al Jazeera a souligné que des membres du parti Bharatiya Janata du Premier ministre Narendra Modi – sur le point de remporter les élections cette année – et du Congrès, la principale opposition parti, ont été la cible de deepfakes, qui circulent principalement sur WhatsApp. Il y a également eu des incidents au cours desquels la technologie a été utilisée par les membres du parti eux-mêmes. En 2020, un éminent député du BJP a utilisé la technologie deepfake pour créer des vidéos de campagne dans différentes langues indiennes.

En Inde, les deepfakes ont déjà infiltré la vie politique et ont été déclarés « menace pour la démocratie » par le ministre des technologies de l’information du pays, Ashwini Vaishnaw. L’Inde ne dispose actuellement pas de lois traitant ou définissant clairement les deepfakes, mais travaille à l’élaboration de règles visant à limiter la propagation de contenus préjudiciables. Un haut responsable du parti de Modi a averti que les sociétés de médias sociaux seraient tenues pour responsables de tout deepfake publié sur leurs plateformes.

« Nous sommes la plus grande démocratie du monde (et) nous sommes évidemment profondément préoccupés par l’impact des acteurs transfrontaliers qui utilisent la désinformation, utilisent la désinformation, utilisent les deepfakes pour causer des problèmes dans notre démocratie », a déclaré Rajeev Chandrasekhar, ministre d’État chargé de l’électronique et de l’informatique. le Financial Times. « Nous en avons été conscients plus tôt que la plupart des pays, car cela nous impacte de manière négative bien plus que sur les petits pays. »

Modi lui-même a également évoqué ces préoccupations, appelant les dirigeants mondiaux à réglementer l’IA dès novembre 2023 ; cependant, ses détracteurs ont clairement indiqué que l’homme politique reconnaît le pouvoir de la technologie et des médias sociaux pour se connecter avec les électeurs indiens, en construisant une marque numérique claire et en mobilisant ses partisans pour vanter ses sentiments.