La FCC a infligé une amende d'un million de dollars à une entreprise de télécommunications pour avoir utilisé une fausse IA pour appeler Biden
Les appels deepfake ont dit à des milliers de personnes à travers le New Hampshire de ne pas voter.
La Commission fédérale des communications (FCC) a infligé une amende d'un million de dollars à Lingo Telecom pour les faux appels automatisés de Joe Biden en janvier, qui utilisaient un enregistrement audio deepfake de la voix du président pour diffuser de fausses informations sur les élections dans le New Hampshire. L'entreprise de télécommunications risquait initialement une amende de 2 millions de dollars, mais l'accord de règlement conclu cette semaine a réduit ce montant de moitié.
Bien que Lingo Telecom n'ait pas été directement impliquée dans la création des appels automatisés de Biden, elle a néanmoins été mise en cause par la FCC pour avoir transmis les appels et ne pas s'être protégée contre l'usurpation de l'identité de l'appelant. Les appels automatisés ont utilisé l'usurpation de l'identité de l'appelant pour se faire passer de manière trompeuse pour provenir d'un numéro de téléphone appartenant à un ancien président du Parti démocrate du New Hampshire.
Comme le précise le décret de consentement de la FCC, Lingo Telecom avait incorrectement certifié qu'elle avait « une relation directe authentifiée » et qu'elle pouvait confirmer l'identité de l'appelant dans près de 4 000 des appels automatisés de Biden AI. Cela était dû à une politique interne qui permettait à Lingo Telecom de se fier simplement à la certification de Life Corporation concernant l'identité de ses clients, prenant cette dernière au mot lorsqu'elle prétendait avoir vérifié que les numéros de téléphone utilisés étaient associés auxdits individus.
« Lingo Telecom n'a pris aucune mesure supplémentaire… pour déterminer de manière indépendante si les clients de Life Corporation pouvaient légitimement utiliser le numéro de téléphone qui apparaissait comme celui de l'appelant pour les appels des primaires présidentielles du New Hampshire », peut-on lire dans le décret de consentement.
En plus de l'amende civile d'un million de dollars, Lingo Telecom a également accepté un plan de conformité garantissant le respect des règles d'authentification de l'identifiant de l'appelant STIR/SHAKEN de la FCC. Ces règles obligent Lingo Telecom à vérifier plus minutieusement les informations fournies par ses clients, dans le but de minimiser le risque que des incidents similaires se reproduisent.
« La combinaison potentielle de l'utilisation abusive de la technologie de clonage vocal génératif par intelligence artificielle et de l'usurpation de l'identité de l'appelant sur le réseau de communication américain représente une menace importante », a déclaré le chef du bureau de l'application de la loi de la FCC, Loyaan A. Egal, dans un communiqué. « Cet accord envoie un message fort : les fournisseurs de services de communication sont la première ligne de défense contre ces menaces et seront tenus responsables de faire leur part pour protéger le public américain. »
Qui se cache derrière les faux appels automatisés de Biden AI ?
En janvier, des milliers de personnes dans le New Hampshire ont répondu au téléphone pour entendre une voix qui ressemblait étrangement à celle du président Biden. Ces appels automatisés générés par l'IA ont explicitement découragé les gens de voter lors des élections primaires à venir, en prétendant à tort que les gens devaient « conserver » leur vote pour qu'il soit utilisé lors des élections générales de novembre.
Bien sûr, il s'agit d'un mensonge éhonté. Les électeurs peuvent voter aux élections primaires comme aux élections générales, et n'ont pas besoin d'économiser leur argent pour l'utiliser de manière stratégique dans l'une ou l'autre de ces élections.
Le ministère de la Justice du New Hampshire a ensuite retracé les appels illégaux jusqu'à la société texane Life Corporation, qui avait été embauchée pour créer les appels automatisés de Biden par le consultant politique Steve Kramer. Kramer travaillait pour la campagne présidentielle du député démocrate Dean Phillips, bien qu'il ait déclaré avoir lui-même eu l'idée de l'appel automatisé par IA. L'audio deepfake lui-même a été créé par le magicien Paul Carpenter, qui a été mandaté par Kramer et a déclaré qu'il ne savait pas comment le clip serait utilisé. Phillips a également pris ses distances avec le coup d'éclat, sa campagne affirmant que Kramer avait agi de son propre chef.
Kramer est désormais confronté à de nombreuses accusations criminelles et à une amende de 6 millions de dollars.
