Écoutez cet appel « Biden » envoyé aux électeurs. Pas étonnant que la FCC réprime les appels automatisés d’IA.

Les appels automatisés générés par l’IA seront contraires à la loi si la FCC parvient à ses fins.

Certains électeurs du New Hampshire ont reçu un appel de quelqu’un qui ressemblait beaucoup au président Joe Biden. L’appel encourageait les habitants du New Hampshire à rester chez eux lors des élections primaires de la semaine dernière et à « conserver leurs votes » pour les élections générales de novembre.

Bien sûr, cela n’a aucun sens. Les électeurs peuvent voter aux deux élections. Pourquoi Biden leur dirait-il une telle chose ? Eh bien, c’est parce qu’il ne l’a pas fait. Il s’agissait d’appels automatisés générés par l’IA et créés pour ressembler à Biden. Vous pouvez en écouter un ici, gracieuseté de The Telegraph :

Ce n’est là qu’un exemple concret de la manière dont l’IA peut déjà être utilisée comme arme par de mauvais acteurs. Et c’est probablement l’une des principales raisons pour lesquelles la FCC souhaite désormais prendre des mesures contre les appels générés par l’IA.

Proposition de la FCC visant à interdire les appels automatisés basés sur l’IA

La présidente de la FCC, Jessica Rosenworcel, a publié mercredi une déclaration annonçant une proposition selon laquelle la FCC reconnaîtrait les appels générés par l’intelligence artificielle comme des voix « artificielles » en vertu de la loi sur la protection des consommateurs par téléphone (TCPA). En faisant cela, la FCC rendrait illégaux les appels automatisés générés par l’IA.

Le TCPA est souvent utilisé par la FCC pour limiter les appels indésirables reçus par les consommateurs en provenance de télévendeurs. En vertu de cette loi, l’utilisation de messages vocaux artificiels ou préenregistrés ainsi que de systèmes de numérotation téléphonique automatique est interdite.

« Le clonage de voix et d’images générés par l’IA sème déjà la confusion en faisant croire aux consommateurs que les escroqueries et les fraudes sont légitimes », a déclaré Rosenworcel dans un communiqué. La déclaration continue :

« Quelle que soit la célébrité ou le politicien que vous privilégiez, ou la relation que vous entretenez avec vos proches lorsqu’ils appellent à l’aide, il est possible que nous soyons tous la cible de ces faux appels. C’est pourquoi la FCC prend des mesures pour reconnaître cette technologie émergente. comme illégal en vertu de la loi en vigueur, donnant à nos partenaires des bureaux des procureurs généraux des États à travers le pays de nouveaux outils qu’ils peuvent utiliser pour réprimer ces escroqueries et protéger les consommateurs.

Le moment choisi pour la déclaration de Rosenworcel semble montrer que les appels automatisés de Biden ont suscité des inquiétudes quant à la manière dont ces voix générées par l’IA peuvent être utilisées dans des escroqueries de télémarketing ainsi que dans une fraude électorale potentielle.

À l’heure actuelle, les seules mesures réelles pour éviter les pires scénarios provoqués par les voix générées par l’IA ont été prises par les sociétés d’IA elles-mêmes. Comme l’a rapporté Bloomberg, la société d’IA ElevenLabs a suspendu la semaine dernière l’utilisateur qui a créé les appels automatisés Biden depuis sa plateforme.

« Nous nous engageons à prévenir l’utilisation abusive des outils d’IA audio et prenons très au sérieux tout incident d’utilisation abusive », a déclaré ElevenLabs dans un communiqué.

Cependant, comme nous l’avons vu avec les récentes images pornographiques non consensuelles de Taylor Swift générées par l’IA, certains dans l’espace ne ressentent peut-être pas la même chose qu’ElevenLabs en ce qui concerne l’utilisation des produits d’IA.