Un groupe de consommateurs de l’UE appelle à des « enquêtes urgentes » sur les risques de l’IA générative

L’Organisation européenne des consommateurs demande des protections contre l’IA maintenant, pas plus tard.

Des groupes de consommateurs en Europe exhortent les autorités à protéger les consommateurs contre les risques de l’IA générative, comme ChatGPT.

Mardi, le Bureau européen des consommateurs (BEUC), représentant des associations de consommateurs de 13 pays européens, a publié un appel à l’actioncitant la capacité de l’IA générative à répandre la désinformation, à enraciner les préjugés et la discrimination et à créer des escroqueries.

La déclaration du BEUC fait suite à l’approbation par l’Union européenne de la loi sur l’IAqui vise à définir et à classer les différentes formes d’IA et leurs risques, afin qu’elles puissent être réglementées en conséquence.

Si elle est adoptée, la loi européenne sur l’IA serait le premier ensemble de lois au monde ciblant directement l’IA. Mais le BEUC estime que les consommateurs européens ont besoin d’être protégés des lois existantes dans l’intervalle.

« Nous appelons les autorités de sécurité, de données et de protection des consommateurs à ouvrir des enquêtes maintenant et à ne pas attendre les bras croisés que toutes sortes de dommages aux consommateurs se soient produits avant d’agir », a déclaré Ursula Pachl, directrice générale adjointe du BEUC. « Ces lois s’appliquent à tous les produits et services, qu’ils soient alimentés par l’IA ou non, et les autorités doivent les appliquer. »

L’annonce coïncide avec la publication d’un rapport du membre du BEUC Forbrukerrådet, intitulé Ghost in the Machine: Addressing the consumer harms of generative AI. Le rapport décrit les dommages que l’IA générative pourrait infliger aux consommateurs, notamment la concentration de la puissance des Big Tech, la création et la prolifération de deepfakes, les biais dans les données de formation, les risques pour la vie privée, le remplacement des emplois par l’automatisation et l’impact environnemental.

L’UE a été un chef de file mondial dans l’application des protections numériques pour les consommateurs et dans la promotion d’un environnement favorable aux entreprises. En 2020, il a adopté la loi sur les marchés numériques, visant à lutter contre le contrôle d’accès des grandes technologies et à donner aux utilisateurs plus de choix sur les technologies qu’ils peuvent utiliser. S’adressant à la loi européenne sur l’IA, Pachl a déclaré : « Il est crucial que l’UE rende cette loi aussi étanche que possible pour protéger les consommateurs ».