Réseau de bots crypto alimenté par ChatGPT découvert sur X

Les chercheurs qui ont découvert le botnet disent qu’ils ne prennent pas la peine d’informer X, car l’entreprise ne répond plus.

X, la plate-forme de médias sociaux appartenant à Elon Musk, anciennement connue sous le nom de Twitter, a un important problème de faux compte. La prolifération des robots sur le réseau social a été reconnue par Musk lui-même, car il l’a citée comme la principale raison pour laquelle il avait initialement tenté de renoncer à l’acquisition de l’entreprise.

Et une nouvelle étude de l’Observatoire des médias sociaux de l’Université de l’Indiana, Bloomington brosse un bon tableau d’un tel réseau de robots qui a été déployé sur X. Le professeur Filippo Menczer et l’étudiant Kai-Cheng Yang ont récemment publié une étude concernant un botnet baptisé Fox8, selon Wired qui a rendu compte pour la première fois de la recherche.

Les chercheurs ont découvert un réseau d’au moins 1 140 faux comptes Twitter en mai dernier qui publiaient constamment des tweets renvoyant à une série de sites Web d' »actualités » en ligne spammy sans nom qui ne feraient que republier du contenu extrait de points de vente légitimes.

La grande majorité des messages publiés par ce réseau de comptes de robots étaient liés à la crypto-monnaie et incluaient souvent des hashtags tels que #bitcoin, #crypto et #web3. Les comptes retweetaient également fréquemment ou répondaient aux utilisateurs de crypto populaires sur Twitter, tels que @WatcherGuru, @crypto et @ForbesCrypto.

Comment un réseau de robots de plus d’un millier de comptes a-t-il pu publier autant ? Il a utilisé l’IA, dans ce cas, spécifiquement ChatGPT pour automatiser exactement ce qui a été publié. Le but de ces messages générés par l’IA semblait être de spammer Twitter avec autant de liens de cryptage que possible, afin de se présenter devant autant d’utilisateurs légitimes que possible dans l’espoir qu’ils cliquent sur les URL.

Selon Wired, X les comptes ont finalement été suspendus par X après la publication de la recherche en juillet. Menczer dit que son groupe de recherche informait auparavant Twitter de ces botnets, mais a cessé de le faire après l’acquisition de Musk car ils ont découvert que l’entreprise n’était « plus vraiment réactive ».

Alors que des outils d’IA comme ChatGPT ont aidé le propriétaire du botnet à pomper du contenu pour des milliers de comptes, cela a également fini par être sa chute éventuelle.

Selon l’étude publiée, les chercheurs ont remarqué une éventuelle tendance avec ces comptes : ils publiaient des tweets commençant par la phrase « en tant que modèle de langage d’IA ». Les utilisateurs de ChatGPT seront familiers avec cette phrase car l’assistant IA la fournit souvent en tant qu’addendum à toute sortie qu’il fournit et qu’il décide peut avoir des problèmes potentiels en raison de cela, eh bien, étant simplement un modèle de langage IA.

Les chercheurs ont souligné que s’il n’y avait pas eu cette erreur « bâclée », le botnet aurait potentiellement pu continuer sans être découvert.