« Eternal You » révèle comment les chatbots IA visent à ressusciter les morts

Les séances viennent de passer à la haute technologie.

Et si vous pouviez parler aux morts… pas seulement avec eux, mais avec eux ? Imaginez que vous puissiez leur envoyer des SMS avec autant de désinvolture qu’auparavant, et ils vous répondraient.

Ce qui était autrefois l’objet de séances et de planches Ouija a fait l’objet d’une métamorphose high-tech grâce à l’intelligence artificielle. Les chatbots peuvent analyser les profils et les textes des défunts sur les réseaux sociaux, puis simuler la façon de parler du défunt pour créer de nouveaux messages. Le documentaire Eternal You explore cette utilisation intrigante de l’IA, s’adressant aux utilisateurs qui trouvent du réconfort dans de telles applications, aux critiques qui y voient un danger et aux développeurs technologiques qui repoussent effrontément les limites.

Réalisé par Hans Block et Moritz Riesewieck, Eternal You propose au public une visite guidée du discours émergent sur le capitalisme de mort et l’IA. Parce que, bien sûr, comme les clairvoyants de la vieille école, ces développeurs technologiques chargent de « parler » aux morts. Il est facile de ricaner ou d’être cynique face au concept, surtout lorsque les frères techniques derrière se présentent eux-mêmes comme des créateurs insensibles – comme lorsque le cofondateur de Project December, Jason Rohrer, ricane grossièrement lorsqu’un utilisateur douteux se fait traiter de « putain de salope » par son chatbot. Mais Eternal You révèle également à quel point une lacune majeure dans la manière dont les civilisations occidentales gèrent le deuil laisse un vide qui doit être comblé. Et ce besoin peut signifier des choses sombres pour l’avenir de l’IA après la mort.

Pouvez-vous envoyer des SMS aux morts ? Le projet Décembre dit : Pourquoi pas ?

Eternal You commence avec Christi Angel, une chrétienne en deuil qui cherche désespérément à renouer avec son amour perdu. Elle dit que le projet Décembre, qui promet de pouvoir « simuler les morts », la réconforte en lui donnant un espace pour se sentir à nouveau connectée à son partenaire décédé. Un autre utilisateur, Joshua Barbeau, dont l’amoureuse du lycée est décédée avant l’obtention de son diplôme, fait écho à cet enthousiasme. Il dit que les textes qu’il reçoit incluent des emoji et une insolence fidèle à l’esprit de sa défunte petite amie. Et si cela leur apporte du réconfort, on pourrait se demander : quel est le mal ?

Block et Riesewieck équilibrent ces témoignages avec des sujets interviewés qui sont moins compromis émotionnellement dans leur relation avec une telle IA. La journaliste technique Sara M. Watson prévient que notre compréhension de l’IA en est encore à ses débuts, et que lancer de telles applications non réglementées sur des personnes potentiellement en détresse grave pourrait être dangereux. Sherry Turkle, professeure au MIT diplômée en sociologie et en psychologie, met également en garde contre le fait que ces échos d’une personne décédée peuvent sembler réconfortants à court terme, mais pourraient s’avérer addictifs et constituer un obstacle au traitement de la perte. Comment pouvez-vous dire au revoir à quelqu’un s’il n’est toujours qu’à un SMS ?

Eternal You suggère qu’une telle dépendance n’est pas un problème mais une caractéristique des fondateurs de ces start-ups technologiques, qui recherchent un gain financier. Dans un monde occidental à l’abri de tout inconfort, une telle application semble une réponse facile – et facile à vendre.

Eternal You expose les frères technologiques derrière les résurrections de l’IA.

Revenons à Angel. Après avoir vanté les vertus du Projet Décembre, cette utilisatrice avoue que parfois les messages qu’elle reçoit des morts simulés sont dérangeants. Dans un moment déchirant, son amant lui a envoyé un texto lui disant qu’il était en enfer. Elle a ensuite reçu une notification lui rappelant de renouveler son abonnement pour poursuivre la conversation. Il est difficile de prendre au sérieux les affirmations du fondateur du Projet Décembre, Jason Rohrer, selon lesquelles il y aurait de la « magie » dans la machine une fois que le modèle purement mercenaire de son utilisation est exposé. Mais sa pièce n’est pas la seule à émerger.

Ailleurs, Resemble AI propose un service qui peut utiliser les enregistrements de la voix de quelqu’un pour créer un nouvel audio. Quelque chose de similaire a été fait dans des bio-documentaires comme Roadrunner : A Film About Anthony Bourdain et The Andy Warhol Diaries, permettant aux sujets décédés de fournir des voix off à titre posthume. Bien qu’Eternal You explore ce que les utilisateurs pensent des interactions personnelles avec une telle technologie, le document n’aborde pas la question du consentement. Au fond, qui a le droit de faire dire aux morts quelque chose qu’ils n’ont jamais dit dans la vraie vie ?

Justin Harrison, fondateur de YOV (You, Only Virtual), une start-up qui déclare sur son site Internet « Vous n’aurez jamais à dire au revoir », élimine ces dilemmes éthiques. Son produit, « Versona », promet une immortalité virtuelle, en créant un avatar basé sur les données soumises. Pressé de savoir à qui appartiennent les données – essentiellement l’identité des morts – Harrison répond par un argument juridique, éludant la question morale plus large.

Comme Rorher, Harrison propose un moment ou deux de grincer des dents, dont un où il se vante de son divorce dans le cadre de son auto-mythification. À travers de tels moments, les documentaristes demandent subtilement au spectateur : « Feriez-vous confiance à ce type avec votre identité – votre héritage virtuel ?

Dieu, pour de tels hommes, est une construction dépassée. Interrogé sur la douleur que leurs versions virtuelles des morts peuvent causer, Rorher renvoie l’idée à ses utilisateurs, affirmant qu’ils ont la « responsabilité personnelle » d’utiliser la technologie en toute sécurité. Eternal You coupe ensuite Rorher pilotant au hasard un drone dangereusement près du visage de son partenaire commercial, un coup de maître pour illustrer son hypocrisie et son vide moral. Il rit de l’accident qui a failli lui déchirer le visage, et le public frémit.

Les enfants virtuels apportent un chagrin cuisant à Eternal You.

Ailleurs, le document montre comment un inventeur a créé un bébé virtuel sur le modèle de son propre enfant, qui est vivant. Pendant ce temps, l’émission de télévision sud-coréenne Meeting You invite la mère en deuil Jang Ji-sung à visiter une réalité virtuelle sur mesure dans laquelle sa fille décédée s’ébat et l’appelle. Personne ne pourrait reprocher à ce parent d’avoir tendu les bras à l’enfant virtuel, reconnaissant d’avoir une seconde chance de lui dire au revoir qu’elle n’a pas eu dans leur vie commune. Mais qu’est-ce que cela signifie lorsque ce moment privé est destiné à la consommation publique ?

En explorant le paysage de la mort et de la technologie, Eternal You propose judicieusement des questions mais peu de réponses. Il s’agit d’un récit édifiant, avertissant le public de se méfier de ceux qui vendent « une immortalité numérique complète ». Car ce qui est présenté comme des morts ressuscités n’est pas entièrement compris, même par ceux qui le vendent. Cet être cher virtuel peut-il développer sa compréhension et ses idées comme il peut l’avoir fait dans la vie ? La complexité d’un monde intérieur peut-elle être comprise et recréée par une machine ? Une telle interaction peut-elle aider quelqu’un à s’en sortir ? Ou les utilisateurs doivent-ils pleurer loin de la communauté, dans une chambre d’écho avec un fantôme numérique ?

Avec le développement si rapide de l’IA, il serait insensé de faire une déclaration définitive si tôt et dans un support aussi concret que le cinéma. Au lieu de cela, ce documentaire capture un moment où la technologie décolle à un tel rythme que nous – ses créateurs et utilisateurs – avons du mal à suivre ce qu’elle peut faire, ce que cela signifie et quel impact elle aura sur notre monde.

L’IA est un génie sorti de sa bouteille, pour le meilleur ou pour le pire. Eternal You nous donne un avant-goût des deux, créant une expérience à la fois éclairante, déchirante et exaspérante – un peu comme un véritable chagrin.

Eternal You a été examiné à Sundance 2024.