Les applications d'IA sur Google Play doivent limiter la distribution de contenu inapproprié, selon l'entreprise
Pas de contenu graphique, de deepfakes non consensuels ou de mauvais marketing.
Les nouvelles directives de Google Play mettent les manchettes sur les applications d'IA générative proposant des outils douteux, tels que les applications de « déshabillage » deepfake et celles produisant du contenu graphique.
La politique mise à jour de l'App Store, annoncée jeudi, demande aux applications d'IA générative et à leurs développeurs d'intégrer des précautions contre les contenus offensants, « y compris les contenus interdits répertoriés dans les politiques de contenu inapproprié de Google Play, les contenus susceptibles d'exploiter ou d'abuser des enfants et les contenus susceptibles de tromper ». utilisateurs ou permettre des comportements malhonnêtes.
Les développeurs doivent également proposer des mécanismes de signalement et de reporting dans l'application pour les utilisateurs tombant sur du contenu inapproprié et « tester rigoureusement » leurs modèles d'IA, a rapporté TechCrunch.
Les règles s'appliquent aux applications qui produisent du contenu généré par l'IA dans « n'importe quelle combinaison de saisie d'invite de texte, de voix et d'image ». Cela inclut les chatbots, les générateurs d’images et les applications d’usurpation audio utilisant l’IA générative. Les politiques ne s'appliquent pas aux applications qui « hébergent simplement » du contenu d'IA ou à celles dotées d'« outils de productivité » d'IA, tels que des fonctionnalités de synthèse.
En mai, Google a annoncé qu'il dévaluait les résultats pornographiques générés par l'IA (ou « synthétiques ») dans ses classements de recherche internes, tentant de résoudre un problème croissant de pornographie non consensuelle et deepfake. La société a également interdit la publicité pour les sites Web qui créent, approuvent ou comparent de la pornographie deepfake.
Cette décision est intervenue après qu'une vague de deepfakes viraux centrés sur les célébrités ait circulé sur les plateformes X et Meta, y compris des publicités graphiques pour une application de déshabillage alimentée par l'IA qui présentait des photos mineures de l'acteur Jenna Ortega. Google recevait déjà des milliers de plaintes de victimes de deepfakes non consensuels et sexualisés, dont beaucoup ont déposé des plaintes en vertu du Digital Media Copyright Act (DMCA) contre des sites Web à leur image.
Les initiés de l'industrie de l'IA ont émis de nombreux avertissements concernant la menace de désinformation et l'utilisation non consensuelle de l'image des personnes, y compris une récente lettre ouverte rédigée par les employés d'OpenAI et de Google DeepMind. Le groupe a souligné le risque potentiel de « manipulation et de désinformation » si les progrès de l'IA se poursuivaient sans réglementation.
Les réglementations de la boutique d'applications de Google suivent une directive de la Maison Blanche sur l'IA émise le mois dernier aux entreprises technologiques. L'annonce appelle les dirigeants de l'industrie à faire davantage pour interdire la propagation des deepfakes, Google répondant spécifiquement à l'appel à freiner les applications qui « créent, facilitent, monétisent ou diffusent des abus sexuels basés sur l'image ». Si vous avez été victime d’abus de deepfake, vous pouvez prendre certaines mesures : en savoir plus sur la façon d'obtenir de l'aide.
