Le PDG d'OpenAI, Sam Altman, a été licencié pour « mensonge pur et simple », déclare un ancien membre du conseil d'administration
Helen Toner a également révélé que le conseil d'administration avait découvert que ChatGPT avait été publié via les réseaux sociaux.
Un ancien membre du conseil d'administration d'OpenAI a expliqué pourquoi les administrateurs ont pris la désormais tristement célèbre décision de licencier le PDG Sam Altman en novembre dernier. S'exprimant dans une interview sur le podcast TED AI Show, la chercheuse en IA Helen Toner a accusé Altman d'avoir menti et entravé le conseil d'administration d'OpenAI, de riposter contre ceux qui l'ont critiqué et de créer une « atmosphère toxique ».
« Le conseil d'administration (d'OpenAI) est un conseil à but non lucratif qui a été créé explicitement dans le but de s'assurer que la mission de bien public de l'entreprise est primordiale – elle passe avant les bénéfices, les intérêts des investisseurs et d'autres choses », a déclaré Toner à The TED AI. Animateur de l'émission Bilawal Sidhu. « Mais pendant des années, Sam avait rendu la tâche très difficile au conseil d'administration en cachant des informations, en déformant ce qui se passait dans l'entreprise, et dans certains cas en mentant carrément au conseil d'administration. »
OpenAI a licencié Altman le 17 novembre de l'année dernière, une décision choc qui a surpris de nombreuses personnes à l'intérieur et à l'extérieur de l'entreprise. Selon Toner, la décision n’a pas été prise à la légère et a nécessité des semaines de discussions intenses. Le secret qui l’entourait était également intentionnel, a-t-elle déclaré.
« Il était très clair pour nous tous que dès que Sam aurait la moindre idée que nous pourrions faire quelque chose qui allait à son encontre, il mettrait tout en œuvre, ferait tout ce qui était en son pouvoir pour saper le conseil d'administration, pour nous empêcher de le faire, vous je sais, au point même de pouvoir le licencier », a déclaré Toner. « Nous avons donc été très prudents, très délibérés quant aux personnes à qui nous l'avons dit, ce qui était essentiellement presque personne à l'avance autre que, évidemment, notre équipe juridique. »
Malheureusement pour Toner et le reste du conseil d'administration d'OpenAI, leur planification minutieuse n'a pas produit le résultat escompté. Alors qu'Altman a été initialement évincé, OpenAI l'a rapidement réembauché en tant que PDG après des jours de tollé, d'accusations et d'incertitude. La société a également mis en place un conseil d’administration presque entièrement nouveau, supprimant ceux qui avaient tenté de destituer Altman.
Pourquoi le conseil d'administration d'OpenAI a-t-il licencié le PDG Sam Altman ?
Toner n'a pas spécifiquement discuté des conséquences de cette période tumultueuse sur le podcast. Cependant, elle a expliqué exactement pourquoi le conseil d'administration d'OpenAI est arrivé à la conclusion qu'Alman devait partir.
Plus tôt cette semaine, Toner et Tasha McCauley, ancien membre du conseil d'administration, ont publié un article dans The Economist déclarant qu'ils avaient décidé d'expulser Altman en raison de « modèles de comportement de longue date ». Toner a maintenant fourni des exemples de ce comportement dans son entretien avec Sidhu – y compris l'affirmation selon laquelle le propre conseil d'administration d'OpenAI n'a pas été informé de la sortie de ChatGPT, l'ayant découvert uniquement via les médias sociaux.
« Lorsque ChatGPT est sorti (en) novembre 2022, le conseil d'administration n'en a pas été informé à l'avance. Nous avons entendu parler de GPT sur Twitter », a affirmé Toner. « Sam n'a pas informé le conseil d'administration qu'il possédait le fonds de démarrage OpenAI, même s'il prétendait constamment être un membre indépendant du conseil d'administration sans intérêt financier dans l'entreprise. À plusieurs reprises, il nous a donné des informations inexactes sur le petit nombre d'administrateurs officiels. » Les processus de sécurité que l'entreprise avait mis en place, ce qui signifie qu'il était pratiquement impossible pour le conseil d'administration de savoir dans quelle mesure ces processus de sécurité fonctionnaient ou ce qui pourrait devoir changer. «
Toner a également accusé Altman de l'avoir délibérément ciblée après s'être opposée à un document de recherche qu'elle avait co-écrit. Intitulé « Decoding Intentions : Artificial Intelligence and Costly Signals », le document discute des dangers de l'IA et comprend une analyse des mesures de sécurité d'OpenAI et de son concurrent Anthropic.
Cependant, Altman aurait considéré l'article universitaire trop critique à l'égard d'OpenAI et élogieux à l'égard de son rival. Toner a déclaré au TED AI Show qu'après la publication du journal en octobre de l'année dernière, Altman a commencé à répandre des mensonges auprès des autres membres du conseil d'administration dans le but de la faire retirer. Cet incident présumé n'a fait qu'ébranler davantage la confiance du conseil d'administration en lui, a-t-elle déclaré, car ils avaient déjà sérieusement discuté du licenciement d'Altman à ce moment-là.
« (F) ou dans n'importe quel cas individuel, Sam pouvait toujours trouver une sorte d'explication apparemment anodine expliquant pourquoi ce n'était pas grave ou mal interprété ou autre », a déclaré Toner. « Mais le résultat final a été qu'après des années de ce genre de choses, nous tous les quatre qui l'avons licencié (Toner, McCauley, Adam D'Angelo et Ilya Sutskever, membres du conseil d'administration d'OpenAI) sommes arrivés à la conclusion que nous ne pouvions tout simplement pas y croire. des choses que Sam nous disait.
« Et c'est un endroit totalement irréalisable en tant que conseil d'administration, en particulier un conseil qui est censé assurer une surveillance indépendante de l'entreprise, pas seulement, vous savez, aider le PDG à lever plus d'argent. Ne pas faire confiance à la parole du Le PDG, qui est votre principal canal d'accès à l'entreprise, votre principale source d'informations sur l'entreprise, c'est tout simplement totalement, totalement impossible. »
Toner a déclaré que le conseil d'administration d'OpenAI avait tenté de résoudre ces problèmes, en instituant de nouvelles politiques et processus. Cependant, d'autres dirigeants auraient alors commencé à raconter au conseil d'administration leurs propres expériences négatives avec Altman et « l'atmosphère toxique qu'il créait ». Cela comprenait des allégations de mensonge et de manipulation, des captures d’écran sauvegardées de conversations et d’autres documents.
« Ils ont utilisé l'expression « abus psychologique », nous disant qu'ils ne pensaient pas qu'il était la bonne personne pour diriger l'entreprise vers (l'intelligence artificielle générale), nous disant qu'ils ne croyaient pas qu'il pouvait ou allait changer, que cela ne servait à rien. en lui donnant des commentaires, cela ne sert à rien d'essayer de résoudre ces problèmes », a déclaré Toner.
Le PDG d'OpenAI accusé de représailles contre les critiques
Toner a en outre répondu au tollé des employés d'OpenAI contre le licenciement d'Altman. Beaucoup ont publié des messages sur les réseaux sociaux pour soutenir le PDG déchu, tandis que plus de 500 des 700 employés de l'entreprise ont déclaré qu'ils démissionneraient s'il n'était pas réintégré. Selon Toner, le personnel a été amené à croire à la fausse dichotomie selon laquelle si Altman ne revenait pas « immédiatement, sans aucune responsabilité (et avec un) conseil d'administration totalement nouveau de son choix », OpenAI serait détruit.
« Je comprends pourquoi de nombreuses personnes ne voulaient pas que l'entreprise soit détruite. Que ce soit parce qu'ils étaient dans certains cas sur le point de gagner beaucoup d'argent grâce à cette offre publique d'achat à venir, ou simplement parce qu'ils aiment leur équipe, ils ne voulaient pas perdre leur emploi, ils se souciaient du travail qu'ils faisaient », a déclaré Toner. « Et bien sûr, beaucoup de gens ne voulaient pas que l'entreprise s'effondre, nous y compris. »
Elle a également affirmé que la crainte de représailles pour son opposition à Altman pourrait avoir contribué au soutien qu'il a reçu du personnel d'OpenAI.
« Ils l'ont vu exercer des représailles contre des gens, des représailles contre eux pour des cas passés de critiques », a déclaré Toner. « Ils avaient vraiment peur de ce qui pourrait leur arriver. Alors, quand certains employés ont commencé à dire : 'attendez, je ne veux pas que l'entreprise s'effondre, ramenons Sam', c'était très dur pour ces gens qui » J'avais vécu des expériences terribles pour dire cela, de peur que si Sam restait au pouvoir comme il l'a finalement fait, cela rendrait leur vie misérable. »
Enfin, Toner a souligné l'historique de travail mouvementé d'Altman, qui est apparu initialement après son échec de licenciement d'OpenAI. Soulignant les informations selon lesquelles Altman aurait été licencié de son précédent poste chez Y Combinator en raison de son prétendu comportement intéressé, Toner a affirmé qu'OpenAI était loin d'être la seule entreprise à avoir les mêmes problèmes avec lui.
« Et puis, à son travail avant cela – qui était son seul autre travail dans la Silicon Valley, sa startup Loopt – apparemment, l'équipe de direction s'est rendue au conseil d'administration à deux reprises et a demandé au conseil d'administration de le licencier pour ce qu'ils appellent un « comportement trompeur et chaotique ». ' », a poursuivi Toner.
« Si vous regardez réellement son palmarès, il n'a pas vraiment une brillante liste de références. Ce n'était pas un problème spécifique aux personnalités du conseil d'administration, même s'il aimerait le décrire de cette façon. «
Toner et McCauley sont loin d'être les seuls anciens élèves d'OpenAI à avoir exprimé des doutes quant au leadership d'Altman. Jan Leike, chercheur principal en matière de sécurité, a démissionné plus tôt ce mois-ci, invoquant des désaccords avec les priorités de la direction et arguant qu'OpenAI devrait se concentrer davantage sur des questions telles que la sécurité, la sûreté et l'impact sociétal. (Le scientifique en chef et ancien membre du conseil d'administration, Sutskever, a également démissionné, bien qu'il ait évoqué son désir de travailler sur un projet personnel.)
En réponse, Altman et le président Greg Brockman ont défendu l'approche d'OpenAI en matière de sécurité. La société a également annoncé cette semaine qu'Altman dirigerait la nouvelle équipe de sûreté et de sécurité d'OpenAI. Pendant ce temps, Leike a rejoint Anthropic.
