Une organisation à but non lucratif dépose une plainte auprès de la FTC contre le GPT-4 d’OpenAI
Il dit que les enfants peuvent être en danger (entre autres).
Jeudi, le Center for AI and Digital Policy (CAIDP), une organisation à but non lucratif de défense des intérêts, a déposé une plainte auprès de la Federal Trade Commission (FTC) ciblant OpenAI. La plainte fait valoir que le dernier grand modèle de langage de la société, GPT-4, qui peut être utilisé pour alimenter ChatGPT, enfreint les règles de la FTC contre la tromperie et l’injustice. Cela fait suite à une lettre ouverte signée par des personnalités majeures de l’IA, dont Elon Musk, qui appelait à une pause de six mois sur la formation de systèmes plus puissants que GPT-4.
La plainte demande à la Commission « d’ouvrir une enquête sur OpenAI et de conclure que la sortie commerciale de GPT-4 viole l’article 5 de la loi FTC ». Cette section, explique la plainte, fournit des conseils sur l’IA et décrit les « normes émergentes pour la gouvernance de l’IA que le gouvernement des États-Unis a officiellement approuvées ».
Qu’y a-t-il de si effrayant à propos de GPT-4, selon cette plainte ? Il est prétendument « partial, trompeur et un risque pour la vie privée et la sécurité publique ». La plainte indique également que GPT-4 fait des déclarations non prouvées et n’est pas suffisamment testé.
Le CAIDP souligne également – en utilisant des citations de rapports antérieurs rédigés par OpenAI lui-même – qu’OpenAI connaît le potentiel de provoquer ou d’aggraver des « opérations de désinformation et d’influence », et que la société a exprimé des inquiétudes concernant « la prolifération d’opérations conventionnelles et non conventionnelles ». armes » grâce en partie à l’IA. OpenAI a également, note la plainte, averti le public que les systèmes d’IA pourraient « renforcer des idéologies entières, des visions du monde, des vérités et des contrevérités, et les cimenter ou les enfermer, empêchant toute contestation, réflexion et amélioration futures ».
La plainte déchire également OpenAI pour ne pas avoir apparemment effectué de contrôles de sécurité visant à protéger les enfants pendant la période de test de GPT-4. Et il cite Ursula Pachl, directrice adjointe du Bureau européen des consommateurs (BEUC), qui a déclaré : « Les autorités publiques doivent réaffirmer le contrôle (des algorithmes d’IA) si une entreprise ne prend pas de mesures correctives ».
En citant Pachl, le CAIDP invoque clairement – sinon directement – des mesures gouvernementales majeures visant à réglementer l’IA. Les régulateurs européens envisagent déjà une approche beaucoup plus lourde et basée sur des règles de cette technologie. Et cela survient alors que les entreprises cherchent à gagner de l’argent dans l’espace de l’IA générative. Le chatbot alimenté par GPT-4 de Microsoft Bing, par exemple, génère désormais des revenus publicitaires. Ces entreprises attendent sans aucun doute avec impatience la réponse de la FTC.
