Les clones de voix AI sont des escroqueries suralimentées, avertit un haut responsable de la FTC
« Nous devons être vigilants dès le début », a déclaré la présidente de la FTC, Lina Khan.
Les outils d’intelligence artificielle, en particulier les clones vocaux, surchargent les escroqueries, a averti la présidente de la FTC, Lina Khan.
S’exprimant lors d’un événement sur l’IA et le capital-risque jeudi, Khan a averti que les responsables devront être proactifs pour arrêter la fraude alimentée par l’IA, a rapporté Bloomberg.
Elle a noté qu’ils assistaient déjà à des escroqueries « turbochargées » par l’IA, utilisant des clones vocaux capables de copier des membres de la famille en détresse, par exemple, selon Bloomberg.
« Nous devons être vigilants tôt », a déclaré Khan, selon Bloomberg. « Si quoi que ce soit, vous devez être particulièrement vigilant au début, car il est beaucoup plus difficile de résoudre ces problèmes par la suite. »
Le tweet a peut-être été supprimé
Les clones de voix se sont avérés capables de tromper les gens. Un reportage de CNN a noté que les faux appels d’enlèvement demandant des rançons à l’aide de la technologie devenaient plus courants. Jennifer DeStefano a raconté au point de vente son histoire d’avoir reçu un appel demandant 1 million de dollars pour leur fille avant de se rendre compte que l’appelant avait utilisé l’IA pour copier sa voix.
« La voix ressemblait à celle de Brie, l’inflexion, tout », a-t-elle déclaré à CNN.
Des clones de voix IA ont même créé des chansons populaires avec de fausses versions de vrais artistes. Même une fausse image relativement facile à repérer du Pentagone attaqué a provoqué une véritable baisse du marché boursier.
« Alors que ces choses deviennent plus intégrées dans la façon dont les décisions quotidiennes sont prises, je pense qu’elles invitent et méritent beaucoup d’examen », a déclaré Khan, selon Bloomberg. « Ces problèmes et préoccupations sont assez urgents et je pense que les responsables de l’application, que ce soit au niveau de l’État ou au niveau national, vont agir. »
