La nouvelle loi historique de l’UE sur l’IA interdit la notation sociale et limite l’identification biométrique

La loi sur l’IA vise à « protéger les droits fondamentaux (…) contre l’IA à haut risque » tout en « stimulant l’innovation ».

L’Union européenne a adopté une nouvelle réglementation historique visant à protéger ses citoyens contre l’IA à haut risque.

La loi sur l’IA, approuvée aujourd’hui par l’UE, vise à « protéger les droits fondamentaux, la démocratie, l’État de droit et la durabilité environnementale contre l’IA à haut risque, tout en stimulant l’innovation et en faisant de l’Europe un leader dans le domaine », indique un communiqué de presse. .

Plus précisément, le règlement vise à répondre aux risques créés par les applications d’IA, à interdire les pratiques d’IA à risque, à fixer des exigences claires pour l’IA à haut risque et à définir les obligations, les mesures de conformité et l’application des règles applicables à ceux qui déploient des applications d’IA à haut risque.

Les applications interdites par cette nouvelle réglementation comprennent :

• « des systèmes de catégorisation biométrique basés sur des caractéristiques sensibles et une récupération non ciblée d’images faciales provenant d’Internet ou de séquences de vidéosurveillance pour créer des bases de données de reconnaissance faciale »,

• « reconnaissance des émotions sur le lieu de travail et à l’école »,

• « notation sociale »

• « police prédictive » lorsqu’elle repose « uniquement sur le profilage d’une personne ou l’évaluation de ses caractéristiques », et

• « Une IA qui manipule le comportement humain ou exploite les vulnérabilités des gens. »

Il existe des exceptions pour les forces de l’ordre, mais certains types d’applications sont toujours soit interdites, soit ne peuvent être utilisées que dans des scénarios très spécifiques. Par exemple, le déploiement de systèmes d’identification biométrique en temps réel n’est autorisé que si « des garanties strictes sont respectées », y compris des exigences relatives à « une autorisation judiciaire ou administrative préalable spécifique ». Par exemple, de tels systèmes pourraient être utilisés en cas de disparition de personnes ou de menaces terroristes.

Les systèmes d’IA à usage général (GPAI) devront répondre aux exigences de transparence de l’UE, telles que le respect de la loi européenne sur le droit d’auteur. Les systèmes GPAI très puissants devront répondre à des exigences supplémentaires, notamment l’évaluation des risques systémiques et les rapports d’incidents. Toutes les images, contenus audio ou vidéo artificiels ou manipulés (communément appelés deepfakes) devront être clairement étiquetés comme tels.

Roberta Metsola, la présidente du Parlement européen, a qualifié la loi sur l’IA de « pionnière ».

Le tweet a peut-être été supprimé

« Cela signifie leadership, innovation et nouvelles voies. Mais également respect des droits fondamentaux », a-t-elle tweeté.

Commissaire européen au marché intérieur, Thierry Bretona qualifié les nouvelles réglementations de « premières règles complètes et contraignantes au monde pour une IA fiable », ajoutant que l’UE « réglemente le moins possible, mais autant que nécessaire ! »

La loi sur l’IA est encore soumise à quelques contrôles finaux et doit être formellement approuvée par le Conseil européen. Elle devrait entrer en vigueur 20 jours après sa publication au Journal officiel de l’UE, ce qui devrait arriver assez rapidement, et sera pleinement applicable deux ans après, sauf dans certains cas plus graves, comme les pratiques interdites, auquel cas elle s’appliquera six ans plus tard. mois après son entrée en vigueur.