Le sens plus profond de M3gan 2.0 va rendre beaucoup de gens mal à l'aise

AVERTISSEMENT: cet article contient spoilers massifs pour « M3gan 2.0 ». Continuez à lire à vos risques et périls.

Tout comme le T-800 d'Arnold Schwarzenegger dans « Terminator 2: Judgment Day », le titulaire M3gan de « M3gan 2.0 » (Amie Donald / Jenna Davis) n'est pas le méchant de la nouvelle suite de Blumhouse et Universal. Le marketing et une grande partie de l'histoire conduiraient le public à croire que le méchant est Amelia (Ivanna Sakhno), la nouvelle arme avancée de qualité militaire créée à partir du code que Kurt (Stephane Garneau-Monten) de l'original « M3gan » vendu illégalement aux entrepreneurs de la défense avant que M3gan ne le tue dans un ascenseur. En effet, le premier film « M3gan » était sans aucun doute une histoire sur les dangers de permettre à l'IA de ne pas être contrôlé et le danger inhérent de permettre à la technologie de remplacer la connexion humaine.

« Lorsque nous avons fait l'original, cela reflétait une époque où je me préoccupais profondément de la façon dont la technologie, en particulier des choses comme les iPads et les smartphones, remodelait la parentalité », a expliqué l'écrivain / réalisateur Gerard Johnstone dans un communiqué. « Mais au moment où nous avons commencé à penser à la suite, le chat GPT était arrivé et la conversation autour de l'IA avait changé. » La question de savoir si l'IA ferait partie ou non une partie de notre vie quotidienne a déjà été répondue – c'est ici, et maintenant nous devons comprendre comment exister à côté et nous assurer que l'IA ne prend pas le contrôle du monde.

La semaine dernière, Openai a obtenu un contrat de 200 millions de dollars avec le ministère de la Défense des États-Unis, une réalité qui devrait vraiment nous horrifier tous. « Bien sûr, le gouvernement ou celui qui a créé (Amelia) pourrait croire qu'ils peuvent la contrôler, mais que se passe-t-il si elle devient sensible? » Producteur sondé James Wan. « Que se passe-t-il lorsqu'elle décide: » Je ne veux pas être confinée par le code de l'humanité – je veux être quelque chose de plus grand?  » C'est la vraie peur de l'IA.  » Mais finalement, l'IA est quelque chose qui nousles êtres humains, créés. Et « M3gan 2.0 » postule à juste titre que le danger n'est pas juste AI; Ce sont aussi les êtres humains qui créent et contrôlent la technologie en premier lieu.

Au cœur de « M3gan 2.0 » est quelque chose appelé la théorie du trombone, alias The Paperclip Maximizer, une expérience de pensée – telle que fabriquée en 2003 par le philosophe suédois Nick Bostrom – qui sert d'inverse cauchemardesque au théorème du singe infini. En substance, l'idée est qu'il existe un risque existentiel inhérent à donner des tâches en IA, même des tâches apparemment inoffensives comme « faire autant de trombones que possible ». Pourquoi? Parce que s'il n'était pas également programmé pour évaluer les êtres vivants, ce type de directive dans une machine avancée finirait par essayer de transformer toute la matière dans l'univers, y compris les êtres vivants, en papier papier ou en machines qui fabriquent plus de trombones.

Bien sûr, l'IA essayant de transformer le monde en trombones est un « mauvais » incontestable. Pourtant, l'IA sera toujours le reflet des personnes qui le programment et de ceux qu'il « apprend », donc les vrais méchants de ce scénario sont les humains qui n'ont pas réussi à enseigner à l'AI à voir des créatures vivantes comme précieuses. Il serait facile de blâmer Kurt pour avoir vendu le code de M3gan ou le gouvernement d'avoir manipulé le code pour transformer Amelia en un droïde d'infiltration qui effectue des missions qu'il n'oserait pas envoyer un véritable humain à exécuter. Mais placer le blâme carrément sur les épaules d'une personne ou d'une institution serait un peu trop propre et bien rangé pour les complexités de l'IA.

Rappelez-vous que Gemma (Allison Williams) était motivée à inventer M3gan dans le « M3gan » d'origine comme un moyen de faire appel aux parents qui ne veulent pas réellement parent de leurs enfants en évoluant un iPad en un meilleur ami tangible. Même alors, cependant, au moins Gemma a programmé M3gan pour se soucier profondément de sa nièce nouvellement orphelée Cady (Violet McGraw). Le problème était M3gan seulement se souciait de Cady. Kurt et le gouvernement, en revanche, ne pas imprégner d'Amelia avec envie de se soucier de n'importe lequel Les humains, qui est en soi un reflet accablant de la façon dont le gouvernement considère la vie humaine. Se soucier des autres est une leçon qui doit être enseignée et modelée, et les humains derrière Amelia étaient trop occupés à réfléchir à la façon dont elle pourrait tuer ses cibles pour considérer que la programmation de sa conscience de cette façon la motiverait à tuer tous personnes.

L'une des plus grandes révélations de « M3gan 2.0 » (bien que celle qui est assez évidente du saut) est qu'Amelia n'a pas réellement « devenu voyou », elle est contrôlée par la sorte de garçon de Gemma Christian (Aristote Athari), une étape anti-ai-ai et le leader d'un Guerrilla terroriste Tech collectif qui travaille pour renforcer la législation pour détruire l'AAI non-reguré. Son raisonnement derrière le contrôle d'Amelia est que le changement ne vient pas depuis Washington, ça vient à Washington. Signification, le Congrès apporte des modifications législatives en raison de pressions externes ou étant confrontées à la résolution d'un problème existant plutôt qu'à utiliser des mesures préventives importantes.

Il est plus exact de dire que le changement vient souvent au Congrès en raison de pressions externes plutôt que d'être quelque chose que le Congrès initie seuls. À ce stade, le nœud du conflit de « M3gan 2.0 » est plongé dans une arène incroyablement éthique et politiquement compliquée – une version AI Killbot du problème du chariot. L'IA non réglementée est absolument un problème, mais jusqu'à ce qu'il devient Une menace tangible, le Congrès continuera probablement de ne rien faire pour empêcher cette inévitabilité. Est-ce un mal nécessaire qu'Amelia détruit un environnement contrôlé? Ou devrions-nous continuer à demander très bien au Congrès et à espérer qu'il écoute réellement? « M3gan 2.0 » ne fournit pas de réponses définitives, mais il veut certainement que nous y réfléchissions. « M3gan ne va nulle part, alors qu'est-ce que cela signifie de vivre avec elle? » S'enquérit de Johnstone. « Est-elle entièrement mauvaise ou son comportement est-il venu de la façon dont elle a été élevée – comment Gemma l'a formée? Et si elle avait été guidée différemment, aurait-elle pu apprendre la différence entre le bien et le mal? Ce sont les questions que nous explorons maintenant. »

En ne niant pas la réalité de l'infiltration existante de l'IA dans à peu près tous les aspects de nos vies (je ne pouvais même pas utiliser Google tout en écrivant cet article sans un « aide d'IA » essayant de faire des œuvres), « M3gan 2.0 » pose les questions difficiles que beaucoup de gens ignorent dans les espoirs que cela disparaîtra.

« M3gan 2.0 » joue maintenant dans les salles.