Les appels automatisés Deepfake Biden générés par l’IA proviennent d’une société texane

Jusqu’à 25 000 faux appels téléphoniques propagent de la désinformation sur les élections américaines.

Le coupable derrière les faux appels automatisés de Biden AI du mois dernier semble avoir été identifié. Le ministère de la Justice du New Hampshire a annoncé mardi avoir retracé les appels illégaux jusqu’à Life Corporation, une société basée au Texas, et à son propriétaire Walter Monk.

Une ordonnance de cessation et d’abstention a été émise contre Life Corporation, qui est accusée d’avoir violé les lois interdisant de « se livrer à la répression des électeurs en tentant sciemment d’empêcher ou de dissuader une autre personne de voter ou de s’inscrire sur les listes électorales sur la base de renseignements frauduleux, trompeurs, trompeurs, ou des motifs ou informations fallacieux. »

Le mois dernier, des milliers d’habitants du New Hampshire ont reçu des appels automatisés les décourageant explicitement de voter aux élections primaires. Ces appels indiquaient faussement que leurs votes devaient être « sauvegardés » pour être utilisés lors des élections générales de novembre et que voter lors des élections en cours serait inefficace. En réalité, les électeurs peuvent et sont encouragés à voter aux élections primaires et générales.

Ce serait déjà assez grave. Mais ces appels ont également utilisé un son deepfake généré par l’IA de la voix du président Joe Biden pour diffuser cette désinformation, et ont même usurpé l’identification de l’appelant, donnant l’impression que l’appel provenait d’un numéro de téléphone appartenant à un ancien président du Parti démocrate du New Hampshire. .

Pour l’auditeur occasionnel, cela aurait eu l’impression que le 46e président des États-Unis lui avait directement demandé de ne pas voter. Jusqu’à 25 000 de ces appels automatisés ont été effectués.

La société Lingo Telecom, basée au Texas, a également été impliquée dans ce système de désinformation, ayant prétendument facilité les appels automatisés sur ses réseaux. Lingo Telecom a reçu une ordonnance de cessation en tant que fournisseur de services vocaux d’origine et a cessé de fournir ses services à Life Corporation.

Lingo Telecom et Life Corporation ont en outre reçu des avis de conservation de documents et des assignations à comparaître dans le cadre de l’enquête criminelle en cours.

« Les enregistrements générés par l’IA et utilisés pour tromper les électeurs peuvent avoir des effets dévastateurs sur le processus électoral démocratique », a déclaré le procureur général John Formella dans le communiqué de presse. « Le partenariat et l’action rapide dans (l’enquête) sur cette affaire envoie un message clair selon lequel les forces de l’ordre, les agences de régulation et l’industrie restent vigilantes et travaillent en étroite collaboration pour surveiller et enquêter sur tout signe d’utilisation malveillante de l’IA pour menacer notre processus démocratique. « 

Ce n’est pas la première fois que Life Corporation enfreint la loi. La Commission fédérale des communications avait déjà émis une citation à l’encontre de l’entreprise en 2003 pour avoir effectué des appels publicitaires préenregistrés et non sollicités.