Elon Musk interroge Microsoft sur la suppression de son équipe d’éthique de l’IA après avoir fait de même sur Twitter

Musk a raison : la sécurité de l’IA est importante. Alors, pourquoi a-t-il licencié la propre équipe de sécurité IA de Twitter ?

L’intelligence artificielle connaît un grand moment en ce moment dans l’industrie de la technologie. ChatGPT d’OpenAI est récemment devenu l’application à la croissance la plus rapide de l’histoire. Les grandes entreprises de technologie comme Google prennent des mesures pour intégrer l’IA dans leurs produits de base.

Avec les choses qui évoluent si rapidement dans ce boom de l’IA, les garanties et les règles éthiques pour protéger les utilisateurs seront particulièrement importantes. Alors que les entreprises essaient de nouvelles choses avec l’IA, il est important qu’elles ne laissent pas l’utilisateur tomber en toute sécurité.

C’est pourquoi il est préoccupant d’entendre des nouvelles comme celle-ci. Comme indiqué à l’origine par Platformer plus tôt cette semaine, Microsoft a licencié toute son équipe d’éthique et de société en matière d’IA au milieu de ses dernières mises à pied. Au total, 10 000 employés ont été licenciés de l’entreprise.

C’est certainement une décision discutable de Microsoft, une entreprise qui s’est peut-être plus investie dans l’IA que n’importe quelle autre grande entreprise technologique. Le géant de l’informatique a déjà intégré des chatbots et des assistants alimentés par l’IA dans nombre de ses produits, tels que Bing, le navigateur Web Edge et sa suite de produits Microsoft 365 tels que Word, Powerpoint et Outlook.

Une personne notable qui a remis en question la décision de Microsoft est Elon Musk, PDG de Tesla, SpaceX et Twitter.

Le tweet a peut-être été supprimé

« Microsoft a licencié son équipe de sécurité IA ? », a tweeté Musk à côté d’un lien au reportage d’Ars Technica sur l’actualité.

Le musc a été assez une voix critique de la actuel état de l’IA, donc son message n’est pas complètement surprenant.

« Il n’y a pas de surveillance réglementaire de l’IA, ce qui est un problème majeur », tweeté Musc en décembre. « Je réclame une réglementation de la sécurité de l’IA depuis plus d’une décennie! »

« OpenAI a été créé en tant qu’open source (c’est pourquoi je l’ai nommé « Open » AI), une société à but non lucratif pour servir de contrepoids à Google », a déclaré Musk dans un autre tweeter, faisant référence à son temps avec OpenAI à ses débuts. « Mais maintenant, c’est devenu une entreprise à source fermée et à profit maximum, effectivement contrôlée par Microsoft. »

Cependant, ce qui est intéressant, c’est que Musk a lui-même licencié la propre équipe de sécurité de l’IA de Twitter en novembre, quelques jours seulement après avoir acquis la société. Filaire a initialement parlé avec des membres de l’équipe d’éthique, de transparence et de responsabilité ML de Twitter peu de temps après la première série de licenciements de Musk dans l’entreprise. Un autre ancien membre de l’équipe tweeté au moment où tous sauf un ont été licenciés. On ne sait pas si cette personne travaille toujours dans l’entreprise après que Musk ait effectué une série de licenciements supplémentaires.

L’équipe a été impliquée dans d’importants projets et recherches sur la façon dont l’entreprise utilise l’IA. Par exemple, en 2020, de nombreux utilisateurs de Twitter ont commencé à remarquer que la plateforme montrait des préjugés raciaux dans la façon dont elle recadrait les photos. L’algorithme de Twitter centrait automatiquement les visages blancs lors du découpage de l’affichage d’une photo dans le flux. L’équipe d’IA éthique de Twitter a fait des recherches sur ce qui s’était passé, a publié ses découvertes pour que tout le monde puisse les lire et a commencé à offrir une prime de bogue aux utilisateurs afin de mieux résoudre ce problème spécifique.

Microsoft a toujours un Office of Responsible AI actif, selon Platformer. Cependant, l’équipe spécifique qui a été licenciée aurait « joué un rôle essentiel en veillant à ce que les principes d’IA responsable de l’entreprise se reflètent réellement dans la conception des produits expédiés ».

Elon Musk a raison de souligner la décision discutable de Microsoft de laisser partir cette équipe. Mais alors cela soulève la question : pourquoi Musk a-t-il licencié une équipe chargée de ce même travail chez Twitter ? Cela semble être une décision assez discutable aussi.