La FTC enquête sur OpenAI pour les dommages potentiels aux consommateurs

Le gouvernement fédéral exige une montagne d’informations.

La Federal Trade Commission (FTC) étudie la possibilité de pénaliser OpenAI pour d’éventuelles pratiques commerciales trompeuses ou déloyales, selon un document obtenu par le Washington Post. Le document, une « Civil Investigative Demand » (CID) envoyé à OpenAI cette semainesignale le début d’une enquête fédérale de grande envergure sur le fonctionnement interne de l’industrie de l’IA et pourrait entraîner une décharge d’informations de la part du leader de l’industrie de l’IA qui vous a apporté ChatGPT, si la FTC découvre effectivement des pratiques nuisibles.

La FTC, qui existe pour prévenir les pratiques commerciales déloyales et anticoncurrentielles, étudie les violations potentielles d’OpenAI « relatives aux risques de préjudice pour les consommateurs, y compris l’atteinte à la réputation » et cherche à déterminer « si une action de la Commission pour obtenir une réparation monétaire serait d’intérêt public ». intérêt. » En d’autres termes, la FTC soupçonne OpenAI d’avoir enfreint les réglementations concernant la tromperie des clients ou la violation de la vie privée des personnes, et pourrait lui infliger une amende.

Les informations demandées dans le CID sont, bien, étendues, y compris 49 demandes d’informations écrites et 17 demandes de documents. Celles-ci vont de demandes d’informations générales telles que « Indiquez votre nom légal complet » à des demandes plus détaillées, telles que « Décrivez en détail chaque magasin de données dans lequel des informations personnelles sont stockées ou utilisées », avec des sous-sections sur chaque aspect du stockage des données dans chaque emplacement.

Il est peu probable que toutes ces informations soient rendues publiques. Pour commencer, le document est écrit comme une introduction dans un sens attendu, longue volée de contre-arguments juridiques et de tentatives de blocage. Cela oblige OpenAI à tenir une réunion téléphonique deux semaines après la réception du CID pour discuter de questions telles que la charge des coûts, le « statut protégé » des informations et les modifications apportées à la demande de la FTC.

Pourtant, la FTC est susceptible de recevoir au moins des informations recherchées depuis longtemps sur les boîtes noires notoires d’OpenAI, comme le fonctionnement interne de son modèle phare, le GPT-4. Pour le moment, par exemple, les utilisateurs se plaignent que GPT-4 est devenu « plus stupide » récemment, et ont spéculé qu’OpenAI a peut-être partitionné GPT-4 en plusieurs modèles coopérants afin de réduire la puissance de calcul nécessaire à son exécution.

La FTC pourrait bientôt découvrir si cette spéculation est correcte. Le CID demande à OpenAI de « décrire en détail le processus de la société pour affiner un grand modèle de langage afin de modifier une version existante du modèle ». OpenAI est invité à inclure les circonstances dans lesquelles un modèle doit être affiné, qui dans l’entreprise effectue l’affinement, quelles mesures ont-ils prises et comment ils évaluent si cela a fonctionné ou non. Cela pourrait certainement mettre fin à la spéculation, en supposant qu’OpenAI ne trouve aucune justification légale pour ne pas répondre à cette question.

Mais si OpenAI est autorisé dans l’enquête, la FTC gardera ses secrets, car les procédures d’enquête de la FTC sont privées. Cependant, les plaintes de la commission divulguent souvent des informations, comme lorsque la FTC a révélé des violations de la vie privée jusque-là inconnues par le personnel des produits Ring d’Amazon..

Sam Altman, pour sa part, a signalé que les régulateurs comme ceux de la FTC ont un rôle à jouer dans le développement de l’IA, en particulier pour protéger les gens de ses dommages potentiels. « Je pense que si cette technologie tourne mal, elle peut mal tourner. Et nous voulons en parler », a déclaré Altman lors d’une audience au Congrès en mai. à Washington DC, ajoutant: « Nous voulons travailler avec le gouvernement pour empêcher que cela ne se produise. »

Dans la pratique, cependant, Altman et son entreprise ont été présents dans les coulisses de la rédaction de réglementations telles que la loi sur l’IA, une loi qui a été approuvée par le Parlement européen le mois dernier. Comme Time l’a documenté dans son rapport, le lobbying d’OpenAI semble avoir assoupli la loi sur l’IA, la version approuvée faisant écho aux suggestions énoncées dans un livre blanc d’OpenAI. fournies aux législateurs européens.

Les États-Unis n’ont pas encore adopté de loi similaire réglementant les activités des entreprises d’IA. Cette enquête de la FTC est peut-être la plus proche que le gouvernement fédéral soit parvenu à appliquer une pression réglementaire, bien qu’une nouvelle proposition législative bipartite des sénateurs Josh Hawley et Richard Blumenthal pourraient bientôt faciliter les poursuites contre les entreprises d’IA en limitant leur immunité en vertu de la section 230, la loi qui protège les entreprises technologiques de toute responsabilité pour le contenu de tiers publié sur leurs plateformes.

Pourtant, malgré leurs appels à la réglementation, ne vous attendez pas à ce qu’Altman et OpenAI se tournent vers la FTC. OpenAI a montré qu’il préfère façonner des procédures comme celles-ci plutôt que d’être façonné par elles.