5 fois l’IA a trompé Internet en 2023
Des deepfakes allant du fun au terrifiant.
Les deepfakes sont un peu comme des mutations virales, en ce sens que les « meilleurs », voire « les plus efficaces », sont profondément troublants. Après que l’IA générative se soit généralisée l’année dernière avec la large diffusion de chatbots crachant du texte, les médias sociaux ont éclaté avec des images et des sons générés par algorithmes pour les accompagner. Ainsi, alors que l’IA continuait d’accumuler des victoires, le perdant était l’emprise de tout le monde sur la réalité.
Du côté positif, certains deepfakes ne semblent pas ils étaient destinés à tromper qui que ce soit. Certains sont même carrément fantaisistes. Malheureusement, ceux qui deviennent viraux se trouvent dans un territoire beaucoup plus gris, d’un point de vue éthique.
Ce sont les deepfakes du premier semestre 2023 qui ont fait sensation car leur deepfakeness n’est pas assez faux pour le confort. Profitez-en et n’hésitez pas à les partager comme divertissement, mais s’il vous plaît, ne les utilisez pas pour répandre des canulars. Le monde contient déjà plus qu’assez de mensonges.
1. La version imaginaire de l’arrestation de Trump
Alors que le monde attendait l’arrestation de l’ancien président Donald Trump, le journaliste et fondateur de Bellingcat Eliot Higgins a décidé de faire preuve de créativité. À l’aide du générateur d’images AI Midjourney, Higgins a créé des images de Trump résistant violemment à l’arrestation, fuyant le NYPD et faisant diverses activités en prison tout en portant une combinaison orange.
Le tweet a peut-être été supprimé
En réalité, Trump s’est rendu aux forces de l’ordre le 20 avril et a été autorisé à renoncer à une photo par le bureau du procureur du district de Manhattan. Ainsi, ceux qui espéraient voir une version réelle du fantasme de l’IA ont probablement été déçus par la réalité peu dramatique de la mise en accusation.
2. Le ‘pape Balenciaga’ qui était trop beau pour être vrai
Lorsqu’une image du pape François portant une énorme doudoune blanche est devenue virale en mars, Internet a été ravi de voir la mise à niveau vestimentaire stylée du pape. Malheureusement, c’était faux. L’image du pape dans une doudoune de style Balenciaga a été créée par un ouvrier du bâtiment de 31 ans utilisant Midjourney.
Le tweet a peut-être été supprimé
Mais l’image était suffisamment réaliste pour tromper de nombreuses personnes, dont Chrissy Teigen qui tweeté, « Je pensais que la doudoune du pape était réelle et je n’y ai pas réfléchi à deux fois. Je ne survivrai pas à l’avenir de la technologie. » Nous vous entendons, Chrissy.
3. Harry Potter au service de Balenciaga (pas) la réalité
Apparemment, l’IA générative et Balenciaga vont de pair, puisque la maison de couture a été référencée deux fois dans le même mois. Mais cette fois, Midjourney a donné aux personnages de Harry Potter le traitement Balenciaga. « Tu es Balenciaga, Harry », dit un Hagrid fumant à un Harry Potter aux joues creuses et à la moue boudeuse sur une musique de transe sombre.
Le tweet a peut-être été supprimé
Dans la vidéo, tous les personnages principaux sont yassifiés sous une forme ou une autre, avec des pommettes acérées comme des rasoirs et des regards flétris rappelant une campagne de mode qui se prend trop au sérieux. La vidéo YouTube, réalisée par Demonflyingfox, s’appelle « Harry Potter par Balenciaga », donc elle n’a jamais été destinée à duper les gens en leur faisant croire que c’était réel. Mais la façon dont il cloue le ton, l’esthétique et le rendu des personnages de Harry Potter en tant que modèles Balenciaga est un exemple frappant de ce que des outils comme Midjourney peuvent réaliser.
4. La collaboration entre Weeknd et Drake qui n’a jamais eu lieu
En avril 2023, The Weeknd et Drake ont sorti un single de feu intitulé « Heart on My Sleeve ». Sauf qu’ils ne l’ont pas fait. Il a été généré par l’IA par un créateur anonyme nommé Ghostwriter. La chanson est devenue virale, non pas à cause de son caractère accrocheur (et c’est accrocheur), mais à cause des problèmes de droits d’auteur désordonnés que l’IA générative pose à l’industrie de la musique.
Bien que la technologie utilisée pour créer la chanson ne soit pas claire, il est incroyablement facile de créer des deepfakes audio. Il existe de nombreux outils qui utilisent la synthèse vocale ou un clip audio existant pour cloner essentiellement la voix de quelqu’un et lui faire dire ce que vous voulez.
La chanson a finalement été supprimée de YouTube, Spotify, Apple Music et d’autres services de streaming pour violation du droit d’auteur. Dans une déclaration à Billboard, le label Universal Music Group de The Weeknd et Drake a déclaré :
La formation de l’IA générative utilisant la musique de nos artistes (qui représente à la fois une violation de nos accords et une violation de la loi sur le droit d’auteur) ainsi que la disponibilité de contenu contrefaisant créé avec l’IA générative sur les DSP, soulève la question de savoir de quel côté de l’histoire toutes les parties prenantes de l’écosystème musical veulent être : du côté des artistes, des fans et de l’expression créative humaine, ou du côté des contrefaçons profondes, de la fraude et du refus des artistes de leur juste rémunération.
5. L’explosion du canular du Pentagone
Contrairement au pape Balenciaga qui était plutôt inoffensif, la fausse image d’une explosion au Pentagone montre à quel point l’IA générative peut être dangereuse entre de mauvaises mains. En mai, une image de feu et de nuages de fumée provenant d’une explosion apparente près du Pentagone a circulé sur Twitter.
Le tweet a peut-être été supprimé
L’image a été rapidement démystifiée comme un deepfake par les forces de l’ordre locales. Mais la fausse photo a eu de réelles conséquences, provoquant une brève baisse de la Bourse. Sur la base de la clôture floue devant le bâtiment et de la taille inégale des colonnes, il était assez clair que l’image était générée par l’IA ou manipulée numériquement. Mais à mesure que l’IA générative devient plus avancée, les deepfakes seront plus difficiles à repérer.
