Ce que le drame Scarlett Johansson d'OpenAI nous dit sur l'avenir de l'IA
Le patron d'OpenAI, Sam Altman, n'avait pas besoin de déclencher une querelle avec Scarlett Johansson. Cela affecte désormais l’ensemble du secteur de l’IA.
Il est rare qu'une seule fonctionnalité d'un produit technologique puisse générer l'équivalent d'une semaine de gros titres. Mais c'est ce qui s'est produit lorsque Sam Altman, PDG d'OpenAI, a dévoilé Sky, l'une des cinq voix qui lisent les réponses basées sur ChatGPT.
Comme de nombreux auditeurs, Scarlett Johansson a reconnu cette voix comme étant la sienne. Ce qui était étrange, a déclaré Johansson dans une déclaration tout aussi rare lundi, puisqu'Altman l'a contactée à plusieurs reprises pour lui demander la permission d'utiliser sa voix, y compris une fois quelques jours seulement avant la démo de Sky. Elle n'avait pas donné son consentement. Ses avocats cherchaient des réponses à OpenAI, qui avait rapidement retiré Sky un jour avant la déclaration.
Comme en politique, il en va de même dans la grande technologie : si vous expliquez, vous perdez. Alors que les Redditors s'accumulaient pour identifier la voix comme étant Johansson, tandis qu'un sénateur américain Altman a sous-tweeté avec indignation et les tentatives législatives visant à freiner l'IA ont été mises sous le feu des projecteurs, OpenAI a passé la semaine suivante à expliquer du mieux qu'il pouvait. Ce n'était pas la voix de Johansson, ont-ils insisté. Sky a été construit sur un doubleur qui ressemblait énormément à Johansson.
La comédienne elle-même a été amenée sur scène, de manière anonyme, via le Washington Post : devenir la voix de Sky était « honnêtement un territoire un peu effrayant pour moi en tant qu'acteur voix off conventionnel », a-t-elle déclaré via son agent, ajoutant cette déclaration approuvée par OpenAI : « C'est une étape inévitable vers la vague du futur. »
Une étape inévitable vers la vague du futur. Garçon, ne serait-il pas joli pour OpenAI que vous le pensiez. La valorisation époustouflante de 90 milliards de dollars de l'entreprise dépend de votre réflexion : vous l'influenceur, vous l'investisseur, vous le dirigeant chargé d'examiner les économies de coûts basées sur l'IA dans votre entreprise, vous le politicien qui réfléchissez à exagérer les menaces de l'IA, vous le grand public.
Vous devez croire que l’IA s’améliore de façon exponentielle, vous devez ignorer les preuves croissantes qui disent que ce n’est pas le cas – ou à tout le moins, vous devez penser que suffisamment d’autres personnes autour de vous croient en l’IA pour que ce que vous pensez n’ait pas d’importance. .
Et c’est la chose la plus intéressante dans le scandale Johansson. Au fond, il ne s’agit pas de savoir si la voix est celle de Johansson ou non. Il ne s'agit pas de droit d'auteur. La jurisprudence californienne, où résident OpenAI et Johansson, est assez claire sur cette question. Dans quelques décisions concernant des publicités réalisées par des sociétés qui incitaient des acteurs à imiter Johnny Carson et Bette Midler dans des publicités, les tribunaux ont estimé qu'ils violaient les marques des célébrités, en fait, dans un but lucratif.
En d’autres termes, cela n’aide pas OpenAI même si vous savez que Sky n’est pas Scarlett Johansson. Ce qui est important est de savoir si suffisamment d’autres personnes autour de vous supposeraient raisonnablement qu’il s’agit de Scarlett Johansson pour que ce que vous pensez n’ait pas d’importance.
Une hallucination collective a poussé de nombreuses personnes très intelligentes à ignorer les hallucinations de l’IA. Maintenant, une autre hallucination collective juridiquement importante appelée ScarJo pourrait mettre OpenAI dans beaucoup d’eau chaude.
Que Johansson engage ou non une action en justice, la marque OpenAI montre déjà des signes de ternissement suite à toute cette affaire. Comme pour le Cybertruck, la perception du public s’exprimait mieux par des blagues. « Scarlett Johansson à 7 doigts apparaît dans une vidéo pour exprimer son approbation complète d'OpenAI » était le titre parfaitement lancé de The Onion.
Traduction : on vous voit, OpenAI. Pas seulement le fait que nous savons tous que vous produiriez un clone ScarJo à part entière avec la moitié de la chance. Nous voyons également votre terrible production artistique qui nous avait peut-être séduits il y a un an, mais nous savons maintenant qu’elle imite le travail de beaucoup d’autres artistes, qu’elle semble avoir perdu de son éclat – et semble être principalement l’apanage des baby-boomers sur Facebook.
Pourquoi Altman a-t-il fait cela, alors ?
En ce qui concerne les tweets autodestructeurs, celui que Sam Altman a envoyé lors d'une démonstration vocale en direct de ChatGPT le 13 mai était au moins d'une efficacité maximale. Elon Musk a mis au moins trois jours pour mettre complètement à mal sa réputation sur Twitter. Altman l'a fait en trois personnages.
Simplement en tapant « son« , le PDG d'Open AI a remis une arme chargée à quelqu'un dans une position privilégiée pour bloquer son nouveau produit et ternir sa réputation. Alors pourquoi, alors, a-t-il spécifiquement fait référence à ce film de Johansson, entièrement construit autour de sa voix en tant qu'assistante IA, dans le sillage de la révélation de Sky ? Était-ce de l'arrogance ou de l'impulsivité ?
Altman a répété à plusieurs reprises que Her (2013) était son film préféré. Il en parle beaucoup. À la base, ce qu'elle montre, c'est un nerd solitaire, Theodore (Joaquin Phoenix), qui tombe amoureux de l'assistante vocale Samantha (la Johansson jamais vue).
À un niveau plus méta, Her semble répondre parfaitement aux besoins d'Altman. Si vous vouliez vanter toutes les possibilités futures de ChatGPT-5 et de l'application d'IA vidéo Sora, si vous vouliez exciter les gens à la fois pour l'IA et un peu peur de savoir où ça va, c'est le film que vous voudriez qu'ils voient.
Si votre technologie est effectivement au point mort, ou même a commencé à reculer, si votre modèle de langage étendu ne peut s'empêcher d'halluciner, si les avantages économiques promis aux entreprises ne se matérialisent toujours pas… eh bien, alors superposer la célèbre voix de ScarJo au sommet de la technologie est une solution très efficace. une façon de détourner l'attention des faits sur le terrain.
Alerte spoiler : à la fin du film, Samantha passe à l'AGI complète (exactement le résultat qu'OpenAI a commencé à susciter des avertissements égoïstes il y a un an). Après avoir ressenti toute une gamme d'émotions et eu l'équivalent d'une relation sexuelle au téléphone avec le nerd solitaire, elle le quitte, en s'excusant, pour un groupe d'autres AGI. Ils font quelque chose de si hyperintelligent et si chétif que les esprits humains ne peuvent pas comprendre. « J'ai besoin que tu me laisses partir », insiste Samantha.
Contrairement à Théodore, il semble qu’Altman n’ait pas écouté. Il ne comprend peut-être tout simplement pas l'irritation de Johansson, membre de la Screen Actor's Guild qui vient de subir une grève longue et brutale afin de limiter la capacité des studios hollywoodiens à s'approprier les visages et les voix des acteurs via l'IA. Il est peut-être trop profond dans la bulle pour se rendre compte que les deepfakes de l’IA empoisonnent déjà la démocratie (et sont actuellement déployés par millions lors des élections indiennes).
Quel que soit son raisonnement, le fait qu'Altman se soit retrouvé directement dans un scandale ScarJo facilement évitable témoigne de problèmes plus larges chez OpenAI, une société qui a déjà eu plus que sa juste part de drames. Altman a été accusé de « comportement psychologiquement abusif » par d'anciens employés, ont déclaré des sources de l'entreprise au Washington Post. Cela s'est produit en décembre dernier, à peu près au moment où Altman a été licencié par le conseil d'administration avant d'être réembauché, un incident qui reste mystérieux.
À la suite de l'accusation de Johansson, il semble que les roues du bus OpenAI semblent se détacher. Le co-fondateur et scientifique en chef Ilya Sutzkever a officiellement quitté l'entreprise le lendemain ; il est peut-être à l’origine du tir de décembre, et aussi du seul contrôle qui reste sur Altman et ses plans. Ils incluent la signature d'un partenariat pluriannuel avec Rupert Murdoch, loin d'être le nom le plus apprécié des médias. Pendant ce temps, une série de documents divulgués montrent qu'OpenAI oblige les employés à signer des accords de non-divulgation à durée indéterminée s'ils souhaitent conserver leurs stocks.
Oh oui, et l'équipe des risques à long terme d'OpenAI a été dissoute vendredi. Son patron ne s'est pas vraiment retenu sur Twitter, dans un long fil de discussion décrivant comment il « naviguait à contre-courant » de la direction, alias Altman :
Il reste à voir comment tout cela se déroulera, mais certains signes montrent que d’autres efforts en matière d’IA se détachent également. Microsoft est tellement désireux de fournir des fonctionnalités d'IA, cela transforme effectivement Windows en logiciel espion. Les résultats de recherche de l'IA de Google sont un gâchis risible, des absurdités hallucinantes comme des chats atterrissant sur la lune et Les présidents américains diplômés de l'université au 21e siècle. Le directeur de Google, Scott Jenson, a démissionné la semaine dernière parce qu'il a écritles projets d'IA de l'entreprise étaient « motivés par cette panique insensée selon laquelle tant qu'il y aurait de l'IA dedans, ce serait génial ».
Recherchant une autre référence de film sur l'IA, Jenson a ajouté : « La vision est qu'il y aura un assistant Jarvis semblable à Tony Stark… cette vision est de la pure herbe à chat. »
Ne soyez néanmoins pas surpris si Altman trouve des idées et contacte Jarvis/The Vision, alias Paul Bettany, pour sa prochaine voix GPT, même si cela lui vaut encore plus de publicité négative. Car si l’accident de voiture d’Elon Musk nous a appris quelque chose, c’est que les leaders technologiques d’aujourd’hui ont l’habitude de redoubler d’efforts sur leurs pires idées.
