Rejoignez-nous
Divers

Le créateur d’un faux appel automatisé Biden suspendu du démarrage de la voix AI

Pierre

Date de publication :

le

Le créateur d’un faux appel automatisé Biden suspendu du démarrage de la voix AI

Un deepfake audio du président Biden a dit aux électeurs de ne pas voter aux élections primaires du New Hampshire.

Alors que les outils traditionnels d’intelligence artificielle se multiplient à l’approche de l’élection présidentielle américaine de 2024, la désinformation générée par l’IA n’est pas seulement une peur : c’est déjà une réalité. Le 22 janvier, le ministère de la Justice du New Hampshire a publié une déclaration selon laquelle des personnes avaient reçu un enregistrement audio deepfake de Joe Biden, leur disant de ne pas voter aux élections primaires de l’État. L’appel encourageait les électeurs à « sauvegarder » leur vote, notant à tort que « votre vote fait une différence en novembre, pas ce mardi ».

Quelques jours plus tard, la startup d’IA ElevenLabs a suspendu le créateur du faux audio de Biden, a rapporté Bloomberg.

ElevenLabs est un générateur de voix IA géré par un modèle qui, selon son site Web, peut ajouter une inflexion humaine à une voix en fonction du contexte. Le générateur propose des milliers de voix d’IA prédéfinies parmi lesquelles choisir, ou vous pouvez en créer une personnalisée. Bloomberg a rapporté que la société de détection de fraude vocale Pindrop Security Inc. a découvert que l’appel automatisé AI Biden avait été effectué à l’aide d’ElevenLabs.

« Nous nous engageons à prévenir l’utilisation abusive des outils d’IA audio et prenons très au sérieux tout incident d’utilisation abusive », a déclaré ElevenLabs à Bloomberg. Le site Web d’ElevenLabs indique que les deepfakes d’hommes politiques ne peuvent être utilisés que dans certains cas, notamment pour la caricature, la parodie ou la satire. Une fois que la société a été informée du deepfake de Biden, elle a enquêté et suspendu le compte responsable, a déclaré une source à Bloomberg.

Dans une interview avec The Hill, Kathleen Carley, professeur d’informatique à l’Université Carnegie Mellon, a déclaré que l’appel automatisé de Biden était « la pointe de l’iceberg » en termes de tentatives de répression des électeurs. Carley a ajouté que c’est un signe avant-coureur de ce qui pourrait arriver.

Le développeur de ChatGPT, OpenAI, tente déjà de réprimer la désinformation lui-même, en publiant des plans pour protéger l’intégrité des élections. Peu de temps après, la société a suspendu un développeur qui avait créé un robot pour un candidat démocrate de longue date.

C’est pourquoi nous devons être vigilants quant à ce que nous voyons – et entendons – en cette période électorale. Comme l’a prévenu Cecily Mauran, journaliste technique à Indigo Buzz : « L’idée d’un Internet dominé par le contenu généré par l’IA existe déjà et elle n’a pas l’air bonne. »

Pierre, plus connu sous son pseudonyme "Pierrot le Fou", est un rédacteur emblématique du site Indigo Buzz. Originaire d'une petite ville du sud-ouest du Gers, cet aventurier des temps modernes est né sous le signe de l'ombre en 1986 au sommet d'une tour esotérique. Élevé dans une famille de magiciens-discount, il a développé un goût prononcé pour l'excentricité et la magie des mots dès son plus jeune âge. Pierre a commencé sa carrière de rédacteur dans un fanzine local dédié aux films d'horreur des années 80, tout en poursuivant des études de communication à l'Université de Toulouse. Passionné par l'univers du web, il a rapidement pris conscience de l'impact du numérique et des réseaux sociaux sur notre société. C'est alors qu'il a décidé de troquer sa collection de cassettes VHS contre un ordinateur flambant neuf... enfin presque.

Cliquer pour commenter
Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Copyright © 2014-2023 - Indigo Buzz, site d'actualité collaboratif abordant les sujets comme l'high-tech, le web, les jeux vidéo, lifestyle ou encore le mobile !