Microsoft risque des milliards d'amendes alors que l'UE enquête sur ses révélations sur l'IA générative

La réticence à exposer les problèmes d'IA de Bing pourrait entraîner une perte de milliards de dollars.

Microsoft pourrait faire face à de sévères réprimandes de la part de l'Union européenne (UE) pour avoir omis de fournir des informations sur les risques posés par les outils d'IA générative.

L'entreprise technologique a jusqu'au 27 mai pour présenter à la commission les documents appropriés décrivant les dommages potentiels découlant spécifiquement des fonctionnalités d'IA générative de Bing, comme son assistant d'IA Copilot et le générateur d'images Image Creator by Designer. Comme l'a rapporté TechCrunch, l'UE craint que de tels outils ne constituent une menace pour « le discours civique et les processus électoraux ».

Les amendes seraient traitées conformément aux exigences applicables aux très grands moteurs de recherche en ligne (VLOSE) dans le cadre de la loi européenne sur les services numériques (DSA) et prélèveraient jusqu'à 1 % du chiffre d'affaires annuel mondial de Microsoft sur l'entreprise.

« La demande d'informations est basée sur la suspicion que Bing pourrait avoir violé le DSA pour des risques liés à l'IA générative, tels que les soi-disant « hallucinations », la diffusion virale de deepfakes, ainsi que la manipulation automatisée de services pouvant induire en erreur. électeurs », a écrit la commission. « L'IA générative est l'un des risques identifiés par la Commission dans ses lignes directrices sur l'intégrité des processus électoraux, en particulier pour les prochaines élections au Parlement européen en juin. »

Si Microsoft ne fournit toujours pas les informations demandées, la commission peut imposer des sanctions allant jusqu'à 5 % de son revenu quotidien moyen ou de son chiffre d'affaires annuel mondial.

En mars, l'Union européenne a approuvé ce que beaucoup ont appelé une réglementation historique sur l'IA, connue simplement sous le nom de AI Act, qui établit des procédures de surveillance et d'application pour les technologies d'IA considérées comme « à haut risque ». La loi interdit en outre certaines applications risquées de l'IA, notamment « la reconnaissance des émotions, la police prédictive et l'IA qui manipule le comportement humain ou exploite les vulnérabilités des personnes ».

Parallèlement, le bloc utilise également le DSA pour enquêter sur les sociétés de médias sociaux, alors que les dirigeants ouvrent plusieurs enquêtes sur la sécurité des enfants et le bien-être émotionnel sur des applications comme TikTok, Facebook et Instagram.