X d'Elon Musk a publié un faux titre sur l'attaque d'Israël par l'Iran. Grok, le chatbot IA de X, l'a inventé.
Le faux titre généré par l’IA a été promu par X dans sa section officielle d’actualités sur les tendances.
Une histoire choquante a été promue jeudi sur la « première page » ou le fil principal du X d’Elon Musk :
« L'Iran frappe Tel Aviv avec des missiles lourds », titrait le journal.
Il s’agirait certainement d’une évolution inquiétante dans l’actualité mondiale. Plus tôt dans la semaine, Israël avait mené une frappe aérienne contre l'ambassade d'Iran en Syrie, tuant deux généraux ainsi que d'autres officiers. Des représailles de la part de l’Iran semblaient plausibles.
Mais il y avait un problème majeur : l’Iran n’a pas attaqué Israël. Le titre était faux.
Plus inquiétant encore, le faux titre a apparemment été généré par le chatbot IA officiel de X, Grok, puis promu par le produit d'actualité tendance de X, Explore, dès le premier jour d'une version mise à jour de la fonctionnalité.
Comment Musk a laissé cela se produire
Quelques années avant qu'Elon Musk n'acquière la plateforme alors connue sous le nom de Twitter, la société a déployé une nouvelle fonctionnalité fournissant un contexte écrit pour les sujets d'actualité. La technologie qui alimente les descriptions écrites des tendances ? Humains.
Auparavant, lorsqu'une histoire était diffusée, les algorithmes de Twitter captaient les mots-clés pertinents publiés et partageaient la tendance, mais il n'était parfois pas évident de savoir pourquoi un ensemble de mots donné était à la mode.
Mais, en 2020, Twitter a constitué une équipe de rédacteurs humains pour organiser l’actualité et mettre les tendances en contexte. De plus, les meilleurs tweets apparaissant sous un sujet tendance ne seraient plus seulement classés de manière algorithmique, mais incluraient également la curation humaine. Un an plus tard, Twitter s'est associé à AP et Reuters pour renforcer davantage ses efforts visant à fournir un contexte humain aux sujets d'actualité.
Cependant, peu de temps après que Musk a acheté l’entreprise en octobre 2022, le contexte écrit sur les sujets d’actualité a disparu. Musk avait licencié les rédacteurs humains de Twitter. Comme l'a rapporté Reuters en novembre 2022, « l'équipe de curation de Twitter, qui était chargée de « mettre en évidence et de contextualiser les meilleurs événements et histoires qui se déroulent sur Twitter », avait été supprimée.
La page Explorer récemment mise à jour de X
Plus tôt cette semaine, certains comptes de fans X comme @XDaily ont partagé captures d'écran de la prochaine relance de la page Explorer de X. La page Explorer de X comprend la tristement célèbre liste de sujets d'actualité de la plate-forme ainsi que des sections spécifiques telles que « Actualités » et « Sports » pour fournir aux utilisateurs des histoires de tendance dans chaque catégorie de sujet particulière.
La page Explorer mise à jour de Musk semblait prête à ramener le contexte écrit fourni aux sujets et aux histoires tendances.
Le 4 avril, X a commencé à déployer sa nouvelle page Explorer mise à jour. La mise à jour fournit les principaux articles des utilisateurs sur chaque sujet tendance, ainsi qu'un résumé facile à digérer du sujet au-dessus du contenu de l'utilisateur. Tout en haut de la page, un titre créé par X présente l'information aux lecteurs comme s'ils étaient sur le point de lire un article sur le sujet.
De plus, la mise à jour donne également à Explore un nouvel emplacement bien en vue sur la plateforme. Les histoires tendances d'Explore apparaissent désormais intégrées directement dans la barre latérale droite de la page d'accueil principale de X, là où se trouvait la liste des sujets tendances, que des centaines de millions d'utilisateurs quotidiens de X consultent quotidiennement.
Cependant, Musk n'a pas rétabli l'équipe de curation de Twitter, ni engagé de nouveaux éditeurs humains pour écrire le contexte que X fournit désormais.
Le contexte est écrit par le chatbot IA de X, Grok.
Le danger de X selon l'IA
Nous savons que Grok, une fonctionnalité d'IA fortement promu par Muscalimente les résumés contextualisés de X parce que X le dit lui-même dans les petits caractères de chaque page Explorer.
« Grok est une des premières fonctionnalités et peut commettre des erreurs », lit-on dans la petite note de X sous le contexte écrit fourni sur la page Explorer. « Vérifiez ses sorties. »
Indigo Buzz a observé la page de X « L'Iran frappe Tel Aviv avec des missiles lourds » qui diffusait de fausses nouvelles alors qu'elles étaient à la mode jeudi..
D'après nos observations, il semble que le sujet ait commencé à devenir tendance en raison d'une augmentation soudaine du nombre de comptes à coche bleue (utilisateurs qui paient un abonnement mensuel à X pour les fonctionnalités Premium, y compris le badge de vérification) spammant les mêmes informations erronées copiées-collées sur les attaques de l'Iran. Israël. Les articles sélectionnés par X étaient remplis de comptes vérifiés diffusant ces fausses nouvelles aux côtés d’une vidéo non vérifiée illustrant des explosions.
À partir de là, il semble que les algorithmes de X aient remarqué une tendance potentielle dans les publications de ces utilisateurs, et une page d'histoire Explorer a été créée. Nous pouvons déduire des propres affirmations de X sur son fonctionnement interne que Grok a dû ensuite créer un récit écrit d'apparence officielle, accompagné d'un titre accrocheur. Tout cela a été fait en se basant sur des utilisateurs sélectionnés partageant de fausses nouvelles, dans une tentative automatisée de fournir un contexte à ce que la plateforme elle-même semblait supposer être une histoire vraie.
Ce ne serait pas la première fois que Grok fournissait des informations erronées aux utilisateurs. Des rapports précédents sur les premières versions du chatbot de X ont révélé qu'il créait souvent de fausses nouvelles dans des discussions privées avec les quelques utilisateurs sélectionnés qui y avaient accès. Cependant, cet incident récent, combiné à la nouvelle fonctionnalité Explorer, représente la première fois que X prend la désinformation de Grok, la présente comme une véritable actualité tendance et en fait la promotion auprès de l'ensemble de sa base d'utilisateurs, apparemment comme contexte pour un événement réel.
Sous Musk, la désinformation est montée en flèche sur la plateforme connue sous le nom de X. Grâce au nouveau produit Explore, l’entreprise a promu un mensonge, diffusé en payant de mauvais acteurs qui veulent gagner de l’argent en échange de la génération d’engagements.
Un jour Après que Grok ait généré cette fausse histoire que X a ensuite promue via sa page Explorer, la société a déployé Grok auprès de tous les utilisateurs X abonnés à Premium afin qu'ils puissent également utiliser le chatbot IA créateur de désinformation.
