Un neuroscientifique explique ce qui n'allait pas avec la publicité des Jeux olympiques Gemini de Google

Pourquoi demander à un chatbot d’écrire une lettre à votre héros peut nuire à vos objectifs personnels.

L'intelligence artificielle peut faire des choses remarquables, mais un consensus général semble avoir émergé sur une chose qu'elle ne peut pas, ou peut-être ne devrait pas, faire : rédiger la lettre d'admiration d'un enfant à son héros sportif.

Google a appris cette leçon à ses dépens. « Dear Sidney », la nouvelle publicité de l'entreprise pour son chatbot Gemini, alimenté par l'IA, dans laquelle un père demande à Gemini d'écrire un message à la coureuse olympique Sydney McLaughlin-Levrone au nom de sa fille, a été largement critiquée. Les gens ont eu envie de « crier ». Ils sont « dégoûtés ». Ils ont qualifié la publicité de « dégoûtante ».

Le Dr James R. Doty, un neuroscientifique de l'Université de Stanford qui étudie la manière dont les gens définissent leurs intentions et atteignent leurs objectifs, s'est senti moins indigné et plus préoccupé par le postulat troublant de la publicité.

« C'est un récit très personnel qui vient, si vous voulez, du cœur et de l'âme d'une personne », a déclaré Doty à Indigo Buzz. « Le fait de le faire pour qu'une IA le fasse à votre place… détruit toute compréhension de ce que signifie écrire une lettre à un héros. »

Doty, auteur du nouveau livre Mind Magic: The Neuroscience of Manifestation and How It Changes Everything, a déclaré que l'utilisation de l'IA générative pour composer un tel message n'est pas seulement une occasion manquée d'expression humaine authentique.

De plus, l’auteur omet une partie cruciale de son propre processus de définition des intentions et des objectifs, étant donné que nos héros nous incitent souvent à réfléchir au type de vie que nous souhaitons pour nous-mêmes.

Doty a déclaré que l'établissement d'objectifs efficaces devrait commencer par une réflexion approfondie sur vos valeurs, en les reliant à l'objectif que vous souhaitez atteindre, en comprenant comment cet objectif peut être utile aux autres, puis en définissant des intentions qui, associées à un travail acharné, vous aident finalement à manifester l'aspiration.

Ainsi, pour la jeune fille dans la publicité de Google, ou pour tout enfant qui voit un reflet de sa propre ambition et de son dévouement pour un sport, prendre le temps de réfléchir et d'exprimer pourquoi il adore son héros et veut battre son record peut être un élément essentiel de la définition d'objectifs. Bien sûr, faire cela avec un parent, comme le père dans la publicité, créerait également un moment de complicité unique.

Doty a noté qu'un chatbot IA chargé de cette tâche de rédaction pourrait simplement rassembler les informations qu'il juge pertinentes, telles que les antécédents, les récompenses et les distinctions du héros. Ce résumé du CV pourrait réduire le temps consacré à la recherche pour le rédacteur de la lettre.

Mais Doty a fait valoir que les résultats pourraient également omettre des réalisations qui ne sont pas si quantifiables – comme les contributions positives d’un athlète à sa propre communauté ou à son identité sexuelle ou de genre – qui contribuent à faire de lui un héros aux yeux de tant de personnes.

Bien sûr, un enfant peut espérer devenir le prochain GOAT de son sport, mais la perspective de devenir un modèle sportif pour les enfants pourrait être tout aussi importante pour lui.

« Pour que cela résonne de manière authentique, il faut que ce soit votre récit, et non celui de l'IA, qu'elle a créé à partir d'un million d'informations sur cet athlète », a déclaré Doty.

Il a ajouté que de nombreux produits d'IA, en particulier ceux destinés au contenu des médias sociaux, sont présentés aux utilisateurs comme des outils pour les aider à obtenir plus de likes ou d'engagement.

Bien que Gemini soit commercialisé comme un chatbot qui aide les utilisateurs à « booster » leurs idées, il pourrait toujours viser à créer du contenu sympathique, ce qui pourrait éloigner un auteur de tout âge d'une réflexion sincère ou saper la confiance en sa propre vision et sa propre voix.

Doty a expliqué que la définition d’objectifs fonctionne mieux lorsque l’on rêve grand dans un état calme et détendu, et que l’on est capable d’imaginer des réalisations futures dans un état d’esprit animé par l’amour, et non par la peur. En d’autres termes, il est beaucoup plus difficile d’atteindre des objectifs formés par un désir de validation externe ou de biens matériels en raison de l’anxiété et de la déception qui en découlent. Mais l’IA ne le sait pas nécessairement.

Malgré ses critiques, Doty n’est pas un opposant à l’IA générative ; il a cofondé une application de santé mentale qui utilise cette technologie et il estime qu’elle peut soutenir la créativité et l’expression humaines sans s’y substituer.

« Si quelque chose n'est pas vous, ou ce que vous ressentez profondément, alors ce n'est pas vous, et c'est un mensonge », a déclaré Doty.