TikTok supprime la publicité vidéo virale du deepfake présumé de Joe Rogan AI
Le boom de l’IA est là et les deepfakes sont de la partie.
Si vous avez été sur TikTok récemment, vous avez peut-être reçu une publicité vidéo mettant en vedette Joe Rogan et l’un de ses invités sur son podcast immensément populaire, The Joe Rogan Experience. Dans le clip, Rogan se vante d’un supplément « booster de libido pour hommes » appelé Alpha Grind, allant jusqu’à dire aux auditeurs exactement quoi taper pour trouver le produit sur Amazon.
Rogan est l’un des podcasteurs les plus populaires, avec plus de dix millions d’auditeurs par épisode de son émission. Une telle approbation de marque serait un gros gain et probablement très coûteuse pour n’importe quel produit. Seul Joe Rogan n’a pas approuvé Alpha Grind dans son émission. Le clip présenté dans la publicité vidéo TikTok est probablement un deepfake, une création d’IA dans le but de donner l’impression que Rogan approuvait le produit afin d’augmenter les ventes.
Le tweet a peut-être été supprimé
L’annonce vidéo a été publiée et promue sur TikTok par un utilisateur du nom de @mikesmithtrainer. Lorsque Indigo Buzz a examiné pour la première fois le compte TikTok, les vidéos publiées publiquement consistaient en des clips de témoignages de supposés consommateurs quotidiens d’Alpha Grind. Au moment de la publication, le @mikesmithtrainer compte n’est plus accessible sur TikTok.
Un porte-parole de TikTok a confirmé à Indigo Buzz que la société « a supprimé ces vidéos dans le cadre de notre politique de désinformation nuisible ». TikTok a également interdit le compte.
Sur Twitter, utilisateur @JimmyFarley00 reposté le faux clip de Joe Rogan et le tweet sont instantanément devenus viraux. La vidéo Twitter a été visionnée plus de 5 millions de fois et un certain nombre d’utilisateurs dans les réponses du tweet auraient vu l’annonce sur TikTok alors qu’elle était encore en ligne. Cependant, depuis le 15 février, le deepfake présumé de Rogan a également été supprimé de Twitter. Lorsqu’ils essaient de visionner la vidéo, les utilisateurs reçoivent une invite indiquant que le clip a été supprimé en raison d’un « rapport du titulaire des droits d’auteur ». Indigo Buzz a inclus un télécharger du clip qui est toujours en direct ci-dessus.
Lorsqu’ils ont été confrontés pour la première fois à la vidéo présumée deepfake de Rogan, certains utilisateurs de Twitter n’ont même pas réalisé ce qu’ils recherchaient au début. Andrew D. Huberman, l’invité du podcast de Rogan qui est également présenté dans la vidéo, entré la conversation pour signaler aux utilisateurs que la conversation présentée dans la vidéo n’a jamais eu lieu.
« Ils ont créé une fausse conversation », a expliqué Huberman dans les réponses au clip. « Nous parlions de quelque chose de très différent. »
Le tweet a peut-être été supprimé
Dans le clip, il est clair que certaines parties de la conversation sont extraites du podcast. La vidéo est fortement éditée et prend des morceaux de l’épisode réel. Le clip tisse ensuite également ce qui est probablement complètement fabriqué de l’audio deepfake AI et des images de Rogan approuvant le produit Alpha Grind au cours de leur conversation, ce qui – en attendant l’analyse d’un expert – signifierait que le canular a utilisé l’apprentissage automatique pour reproduire la voix de Rogan et l’a associé à trompeur. montage vidéo ou truquage d’IA supplémentaire pour faire correspondre les traits de son visage à ce qu’il dit.
Les deepfakes ne sont pas nouveaux et inquiètent les éthiciens et les experts en désinformation depuis des années. Cependant, il y a un regain d’intérêt pour tout ce qui concerne l’IA depuis que l’impressionnant chatbot ChatGPT AI d’OpenAI a fait irruption sur la scène, montrant à quel point les progrès ont été réalisés avec la technologie d’apprentissage automatique.
TikTok effectivement interdit vidéos deepfake sur la plate-forme en 2020, cependant, on ne sait pas dans quelle mesure la politique est appliquée. Lorsque Indigo Buzz a tendu la main, un porte-parole de TikTok a souligné les lignes directrices de la communauté des plates-formes qui interdisent « les contrefaçons numériques (médias synthétiques ou médias manipulés) qui induisent les utilisateurs en erreur en déformant la vérité des événements et causent un préjudice important au sujet de la vidéo, à d’autres personnes ou à la société . »
Il convient de noter que tous les deepfakes ne sont pas utilisés à des fins néfastes et que la technologie peut être utilisée pour des vidéos créatives destinées simplement à divertir les téléspectateurs. Cependant, les deepfakes ont toujours été mis à l’honneur pour leurs cas d’utilisation les plus négatifs. Le mois dernier, un streamer Twitch populaire est devenu viral après avoir révélé par erreur dans un livestream qu’il a acheté du porno deepfake non consensuel d’autres streamers Twitch.
Indigo Buzz a contacté TikTok pour plus d’informations sur l’annonce Joe Rogan TikTok et la suppression du compte qui l’a publiée. Nous mettrons à jour cet article lorsque nous vous répondrons.
