Google abaisse le porno deepfake dans les classements de recherche

Alors que la crise des deepfakes s’aggrave, les grandes technologies tentent d’apporter des changements.

Google s'attaque à son problème de pornographie deepfake, en abaissant désormais la pornographie générée par l'IA ou synthétique dans ses classements de recherche.

Un porte-parole de Google a confirmé à Bloomberg que la société réduisait ce type de contenu dans les classements de recherche de son moteur, « en continuant à diminuer la visibilité de la pornographie synthétique involontaire dans les recherches et en développant davantage de garanties à mesure que cet espace évolue ».

Le trafic sur les sites proposant de la pornographie non consensuelle et générée par l'IA via Google a diminué au cours du dernier mois : deux des sites deepfake les plus importants, par exemple, ont enregistré respectivement 21 % et 25 % de trafic de recherche sur ordinateur basé aux États-Unis en moins au cours des dix premiers. jours de mai, par rapport à la moyenne des six mois précédents.

Cependant, même avec le projet de Google de déclasser ces résultats de recherche, les sites peuvent toujours être découverts.

Google affirme que la société « a activement développé de nouvelles protections dans le cadre de la recherche pour aider les personnes concernées par ce contenu, en s'appuyant sur nos politiques existantes ». Indigo Buzz a contacté Google pour commentaires.

Plus tôt ce mois-ci, Google a mis à jour ses politiques pour interdire aux annonceurs de promouvoir des sites Web facilitant la création de deepfake pornographie. La mise à jour de son interdiction de longue date des publicités sexuellement explicites entrera en vigueur le 30 mai et vise « les sites ou applications qui prétendent générer de la pornographie deepfake, les instructions sur la façon de créer de la pornographie deepfake, l'approbation ou la comparaison des services de pornographie deepfake ». Les annonceurs qui enfreignent cette politique seront suspendus et ne pourront plus faire de publicité sur Google.

Google propose également un formulaire de demande pour supprimer la fausse pornographie involontaire de ses résultats de recherche.

L'année dernière, Bloomberg a découvert que Google était l'un des principaux moteurs de trafic vers les sites faisant la promotion de la pornographie synthétique ou générée par l'IA. Les recherches de célébrités ou de créateurs de contenu combinées au mot « deepfake » aboutiraient souvent à des sites spécialisés dans ce type de contenu, leur envoyant des millions de vues. Un récent rapport de Wired a également révélé que des milliers de femmes se sont plaintes auprès de Google de ce type de sites Web. Et en janvier de cette année, NBC a rapporté que la pornographie deepfake non consensuelle de célébrités était apparue en tête des moteurs de recherche de Google et de Bing de Microsoft.

L’importance et la prolifération des deepfakes ont été considérées comme une crise, en particulier pour les femmes et les personnes de genre marginalisé. Rien que cette année, les deepfakes de personnalités célèbres comme Taylor Swift et Jenna Ortega ont suscité un débat sur le sujet et sur le rôle que joue la grande technologie. D’autres plateformes majeures, notamment Meta apps et X (anciennement Twitter), ont été critiquées pour leur complicité dans la propagation de la pornographie non consensuelle.

Si vous avez été victime d'abus sexuels, appelez la ligne d'assistance gratuite et confidentielle nationale contre les agressions sexuelles au 1-800-656-HOPE (4673), ou accédez à l'aide en ligne 24h/24 et 7j/7 en visitant online.rainn.org.