Sam Altman quitte la direction du groupe de sécurité d'OpenAI
De nombreux changements sont en cours chez le géant de la technologie.
Le comité de sécurité interne d'OpenAI devient un organisme de surveillance indépendant, alors que le PDG Sam Altman quitte le poste de direction du groupe.
Cette annonce fait suite aux résultats d'une évaluation de 90 jours menée par le comité de sécurité et de sûreté actuel présidé par Altman sur les mesures de protection et la gouvernance de l'IA de l'entreprise.
Le nouveau comité de direction comprend Zico Kolter (Université Carnegie Mellon), ainsi que les membres actuels Adam D'Angelo (Quora) et Nicole Seligman (anciennement Sony). « Le comité de sécurité et de sûreté sera informé par la direction de l'entreprise des évaluations de sécurité des principaux modèles et, avec l'ensemble du conseil d'administration, exercera une surveillance sur les lancements de modèles, y compris le pouvoir de retarder une sortie jusqu'à ce que les problèmes de sécurité soient résolus », peut-on lire dans l'annonce.
En mai, l'entreprise d'IA a lancé une équipe de sécurité et de sûreté remaniée avec Altman à sa tête, suite à la dissolution de son ancien organe de sécurité et à la perte de plus de la moitié de ses employés concernés. Plusieurs anciens employés ont exprimé leurs inquiétudes quant à la direction d'Altman et aux protocoles de sécurité d'OpenAI.
La semaine dernière, Altman a déclaré aux employés d'OpenAI que l'entreprise prévoyait de remanier sa structure d'entreprise à but non lucratif en faveur d'une stratégie à but lucratif. L'entreprise, a déclaré le PDG, a « dépassé » son existence en tant que LLC à but lucratif plafonnée supervisée par un conseil d'administration à but non lucratif, mais ce changement aurait également été un élément essentiel de la valorisation attendue de 150 milliards de dollars de la start-up d'IA.
