OpenAI et Google seront tenus d’informer le gouvernement des modèles d’IA

« Juste un petit avertissement, nous construisons de puissants LLM qui pourraient constituer un risque majeur pour la sécurité nationale. »

OpenAI, Google et d’autres sociétés d’IA devront bientôt informer le gouvernement du développement de modèles de base, grâce à la loi sur la production de défense. Selon Wired, la secrétaire américaine au Commerce, Gina Raimondo, a partagé de nouveaux détails sur cette exigence imminente lors d’un événement organisé vendredi dernier par l’Institut Hoover de l’Université de Stanford.

« Nous utilisons la loi sur la production de défense… pour mener une enquête obligeant les entreprises à partager avec nous chaque fois qu’elles entraînent un nouveau grand modèle de langage, et à partager avec nous les résultats (les données de sécurité) afin que nous puissions les examiner », dit Raimondo.

Les nouvelles règles font partie du vaste décret du président Biden sur l’IA annoncé en octobre dernier. Parmi le large éventail de mandats, l’ordonnance oblige les entreprises développant tout modèle de fondation « qui pose un risque sérieux pour la sécurité nationale, la sécurité économique nationale ou la santé et la sécurité publiques nationales », à en informer le gouvernement fédéral et à partager les résultats de ses tests de sécurité. . Les modèles de base sont des modèles comme GPT-4 d’OpenAI et Gemini de Google qui alimentent les chatbots génératifs d’IA. Cependant, GPT-4 est probablement inférieur au seuil de puissance de calcul nécessitant une surveillance gouvernementale.

Les futurs modèles de fondations, dotés d’une puissance de calcul sans précédent, constituent la principale préoccupation en raison de leur risque potentiel énorme pour la sécurité nationale. C’est pourquoi ce mandat relève du territoire de la loi sur la production de défense, qui a été invoquée pour la dernière fois en 2021 par le président Biden pour augmenter la production d’équipements et de fournitures de protection liés à la pandémie.

Lors de l’événement, Raimondo a également abordé un autre aspect du décret qui obligerait les fournisseurs américains de cloud computing comme Amazon, Google et Microsoft à divulguer l’utilisation de leurs services à l’étranger.

« Nous commençons à exiger des sociétés cloud américaines qu’elles nous informent chaque fois qu’une entité non américaine utilise leur cloud pour former un grand modèle de langage », a déclaré Raimondo, selon Bloomberg.

Le secrétaire au Commerce n’a pas révélé quand ces exigences entreraient en vigueur. Mais une annonce est attendue très prochainement puisque la date limite est fixée aujourd’hui, le 28 janvier.