La réponse d’OpenAI au décret sur l’IA ? Silence.
Pas un mot de Sam Altman.
À la suite du décret du président Biden lundi, les entreprises d’IA et les leaders de l’industrie ont pesé sur ce moment décisif dans la réglementation de l’IA. Mais le plus grand acteur dans le domaine de l’IA, OpenAI, est resté visiblement silencieux.
Le vaste décret de l’administration Biden-Harris traitant des risques liés à l’IA s’appuie sur des engagements volontaires obtenus par 15 grandes entreprises d’IA. OpenAI a été parmi le premier groupe d’entreprises à promettre à la Maison Blanche un développement sûr, sécurisé et fiable de ses outils d’IA. Pourtant, la société n’a publié aucune déclaration sur son site Web ou sur X (anciennement Twitter). Le PDG Sam Altman, qui partage régulièrement l’actualité d’OpenAI sur X, n’a rien publié non plus.
OpenAI n’a pas répondu à la demande de commentaires de Indigo Buzz.
Parmi les 15 entreprises qui se sont engagées volontairement auprès de l’administration Biden, les suivantes ont fait des déclarations publiques et ont toutes exprimé leur soutien au décret : Adobe, Amazon, Anthropic, Google,IBM, Microsoft, Salesforce et Scale AI. Nvidia refuse de commenter.
En plus des grillons d’OpenAI, Indigo Buzz n’a pas encore entendu parler de Cohere, Inflection, Meta, Palantir et Stability AI. Mais la tournée publicitaire d’OpenAI et d’Altman proclamant les risques urgents de l’IA et la nécessité d’une réglementation rend le silence de l’entreprise encore plus visible.
Le tweet a peut-être été supprimé
Le tweet a peut-être été supprimé
Altman a été vocal sur la menace que représente l’IA générative créée par sa propre entreprise. En mai, Altman, ainsi que les pionniers de la technologie Geoffrey Hinton et Bill Gates, ont signé une lettre ouverte déclarant : « Atténuer le risque d’extinction dû à l’IA devrait être une priorité mondiale, aux côtés d’autres risques à l’échelle sociétale tels que les pandémies et la guerre nucléaire. »
Lors d’une audience au Sénat en mai, Altman a exprimé la nécessité d’une réglementation de l’IA : « Je pense que si cette technologie tourne mal, elle peut tourner mal, et nous voulons le dire clairement », a déclaré Altman en réponse à une demande du sénateur Blumenthal. , D-CT sur la menace d’une intelligence artificielle surhumaine.
Le tweet a peut-être été supprimé
Jusqu’à présent, la coopération avec les législateurs et les dirigeants mondiaux a joué en faveur d’OpenAI. Altman a participé au sommet bipartisan à huis clos du Sénat sur l’IA, donnant à OpenAI un siège à la table pour formuler une législation sur l’IA. Peu de temps après le témoignage d’Altman, des documents divulgués par OpenAI montraient que l’entreprise faisait pression pour un assouplissement de la réglementation dans l’Union européenne.
On ne sait pas exactement où se situe OpenAI dans le décret, mais les défenseurs de l’open source affirment que l’entreprise a déjà trop d’influence en matière de lobbying. Mercredi, le même jour que le sommet sur la sécurité de l’IA au Royaume-Uni, plus de 70 dirigeants de l’IA ont publié une déclaration commune appelant à une approche plus transparente de la réglementation de l’IA. « L’idée selon laquelle un contrôle strict et exclusif des modèles fondamentaux d’IA est le seul moyen de nous protéger des dommages à l’échelle de la société est au mieux naïve, au pire dangereuse », indique le communiqué.
Yann LeCun, scientifique en chef de l’IA de Meta, l’un des signataires, a doublé ce sentiment sur X (anciennement connu sous le nom de Twitter) en criant OpenAI, DeepMind (une filiale de Google) et Anthropic pour avoir utilisé des propos alarmistes pour garantir des résultats favorables. « (Sam) Altman, (Demis) Hassabis et (Dario) Amodei sont ceux qui font actuellement un lobbying massif auprès des entreprises. Ce sont eux qui tentent de s’emparer de la réglementation de l’industrie de l’IA », a-t-il posté.
Le tweet a peut-être été supprimé
Anthropique et Google Les dirigeants ont tous deux fourni des déclarations soutenant le décret, laissant OpenAI la seule entreprise accusée de capture réglementaire à n’avoir encore émis aucun commentaire.
Que pourrait signifier le décret pour OpenAI ?
De nombreuses dispositions de test de l’EO concernent d’énormes modèles de base qui ne sont pas encore sur le marché et le développement futur des systèmes d’IA, ce qui suggère que les outils destinés aux consommateurs comme ChatGPT d’OpenAI ne seront pas beaucoup impactés.
« Je ne pense pas que nous assisterons à des changements immédiats dans les outils d’IA générative disponibles pour les consommateurs », a déclaré Jake Williams, ancien pirate informatique de la National Security Agency (NSA) des États-Unis et membre du corps professoral de l’IANS Research. « OpenAI, Google et d’autres sont définitivement des modèles de base de formation et ceux-ci sont spécifiquement mentionnés dans l’EO s’ils peuvent avoir un impact sur la sécurité nationale. »
Ainsi, tout ce sur quoi OpenAI travaille pourrait être soumis à des tests gouvernementaux.
En ce qui concerne l’impact direct du décret sur OpenAI, Beth Simone Noveck, directrice du Burnes Center for Social Change, a déclaré qu’il pourrait ralentir le rythme de la publication de nouveaux produits et de mises à jour et que les entreprises devront investir davantage dans la recherche et le développement. et la conformité.
« Les entreprises développant des modèles linguistiques à grande échelle (par exemple ChatGPT, Bard et celles formées sur des milliards de paramètres de données) seront tenues de fournir des informations continues au gouvernement fédéral, y compris des détails sur la manière dont elles testent leurs plateformes », a déclaré Noveck, qui avait auparavant a été le premier directeur adjoint de la technologie aux États-Unis sous le président Obama.
Plus que tout, le décret témoigne d’un alignement avec les attentes croissantes des consommateurs en matière de contrôle et de protection accrus de leurs données personnelles, a déclaré Avani Desai, PDG de Schellman, un grand cabinet de CPA spécialisé dans l’audit informatique et la cybersécurité.
« Il s’agit d’une énorme victoire pour les défenseurs de la vie privée, car les mesures de transparence et de confidentialité des données peuvent renforcer la confiance des utilisateurs dans les produits et services basés sur l’IA », a déclaré Desai.
Ainsi, même si les conséquences du décret ne sont pas immédiates, elles s’appliquent directement aux outils et pratiques d’OpenAI. On pourrait penser qu’OpenAI pourrait avoir quelque chose à dire à ce sujet.
