Les livres de recettes de mijoteuses générés par l’IA inondent Amazon de recettes que nous avons peur d’essayer
Le dernier exemple de livres générés par l’IA est une véritable connerie de vous savez quoi.
Ajoutez des livres de cuisine en mijoteuse au ragoût frémissant de déchets générés par l’IA vendus sur Amazon.
Lundi, le journaliste d’investigation Matthew Kupfer posté sur X que lui et sa femme avaient reçu un livre de recettes de mijoteuses comme cadeau d’anniversaire de ses parents. Mais le livre de cuisine, The Complete Crock Pot Cookbook for Beginners de Luisa Florence, montrait des signes révélateurs d’être généré par l’IA, notamment une copie à consonance robot et une image de l’auteur apparemment générée par l’IA.
Une recherche rapide du livre sur Amazon a montré qu’il y en avait tellement, tellement d’autres comme celui-ci.
La découverte de Kupfer est l’un des nombreux exemples de livres et de contenus apparemment générés par l’IA de mauvaise qualité qui remplissent Amazon – et l’Internet au sens large d’ailleurs. Lors de la publication des mémoires de la journaliste chevronnée Kara Swisher, plusieurs biographies contrefaites de Kara Swisher ont inondé le géant de la vente au détail. Swisher a eu l’influence nécessaire pour exiger leur retrait, mais d’autres n’ont pas eu cette chance. Les auteurs ont découvert ce qui ressemble à des livres générés par l’IA et écrits en utilisant leur nom ou leur nom. plagier un titre. Et ce ne sont que ceux qui ont été signalés par les auteurs et les utilisateurs d’Amazon. En 2021, Amazon aurait vendu plus de 48 millions de livres, et c’était avant que l’IA générative ne soit largement disponible. Il est donc facile d’imaginer l’ampleur du problème et l’impact qu’il pourrait avoir sur les auteurs et les consommateurs.
Amazon a déclaré à Indigo Buzz qu’il examinait le contenu et supprimerait tout ce qui violerait ses directives.
Comme Kupfer l’a expliqué dans le fil de discussion, différentes choses l’ont prévenu. Le plus évident est que cela ne semble certainement pas avoir été écrit par un humain. « Qu’est-ce que la mijoteuse ? » » réfléchit l’auteur de l’IA. Dans une brève histoire de la mijoteuse, le livre de cuisine dit : « Dans les années 1940, lorsque les femmes étaient obligées de travailler dans des endroits plus éloignés de chez elles, c’était la première fois qu’elle était utilisée aux États-Unis… » Comme l’a souligné Kupfer, il s’agissait d’une manière « très euphémiste » de décrire la Seconde Guerre mondiale sans réellement mentionner la guerre, ce qui semble être une évidence pour un écrivain humain.
Dans d’autres exemples, les signes de l’IA générative sont si flagrants qu’il n’est même pas nécessaire d’ouvrir le livre. Justin J. Robson, qui aurait écrit le livre de recettes au titre concis The Super Easy Crock Pot Cookbook for Beginners : 2000+ Days of Simple, Time-Saving and Savoury Slow Cooker Recipes for Occuped Individuals and Families on the Go. Incl. Les desserts, les collations et les apéritifs n’ont même pas pris la peine de revérifier la copie de la description du produit. Il dit : « Offrez-vous la simplicité avec une collection de plus de (insérer le nombre) de recettes qui redéfinissent la cuisine facile. »
Un autre livre de recettes de mijoteuse, Le livre de recettes complet de mijoteuse pour débutants : plus de 1 800 jours de recettes mijotées pour des repas savoureux et sans effort. Avec des trucs et astuces pour gagner du temps et obtenir des résultats parfaits, nous avons également négligé de renseigner le nombre de recettes entre parenthèses soigneusement laissées par ce que l’on suppose être un robot. La description du produit indique : « Dites adieu au stress de la cuisine ! Avec plus de (insérer le nombre) de recettes conçues dans un souci de simplicité, ce livre de cuisine garantit que chaque plat est un jeu d’enfant à préparer.
Tous les livres trouvés par Indigo Buzz ont des descriptions de produits qui suivent le même format de copie promotionnelle de vendeur de voitures d’occasion dans des sections à puces ponctuées par une large utilisation d’émojis. Il est difficile de prouver qu’il s’agit d’une IA générative, mais si vous demandez à ChatGPT ou à d’autres chatbots d’écrire un texte faisant la promotion de quelque chose, cela ressemble beaucoup à cela.
« Nous disposons d’un ensemble robuste de méthodes qui nous aident à détecter de manière proactive les contenus qui enfreignent nos directives, qu’ils soient générés par l’IA ou non », a déclaré Ashley Vanicek, porte-parole d’Amazon. « Nous empêchons de manière proactive la publication de livres et supprimons les livres qui ne respectent pas ces directives, y compris le contenu qui crée une mauvaise expérience client. »
Ces auteurs suivent-ils tous le même manuel de copie promotionnelle ou tout cela est-il généré par des modèles d’IA formés sur le même corpus de données Internet ? Probablement cette dernière solution, puisque les auteurs ne semblent pas non plus réels. Kupfer a consulté la page bio de Florence et elle ressemble à une gentille dame qui écrirait un livre de recettes à la mijoteuse, sauf qu’elle n’est probablement pas réelle. « Pour moi, cela ressemble à une image GAN générée par l’IA – notez les boucles d’oreilles divergentes, l’arrière-plan étrange et l’épaule gauche manquante », a déclaré Kupfer à propos de la photo dans la tête.
Kathleen J. Taylor n’est probablement pas une vraie personne qui a écrit le livre de recettes complet de Crock Pot pour les débutants : 1900 recettes délicieuses et saines que tous les âges aiment manger, livre de recettes facile à la mijoteuse, du petit-déjeuner aux desserts, collations, déjeuner et Dîner (encore une fois, ces titres ont vraiment du punch). Sur la photo de profil de Taylor, la nuque et la nuque sont floues, ce qui est généralement le signe qu’une sorte de générateur d’images est responsable.
D’autres auteurs de livres de cuisine à la mijoteuse n’ont pas de photo de profil, mais elles semblent super fausses. Toutes mes excuses à toutes les vraies personnes nommées « Milton E. Armstrong » et « Kirk Bishop », mais on dirait qu’elles ont été choisies d’un chapeau. Il en va de même pour « Tharne Dllsworth », c’est « Dllsworth » et non « Dillsworth » ou « Ellsworth ». Toutes mes excuses si vous êtes réel, mais étant donné que vous avez un casque de cheveux généré par l’IA sur votre photo de profil, je suppose que non.
De plus, si vous recherchez les auteurs sur Google, il n’y a aucune présence numérique en dehors de la liste des livres sur Amazon (et Goodreads pour certains). En comparaison, si vous recherchez sur Google le véritable auteur d’un véritable livre de recettes à la mijoteuse, comme The Easy 5-Ingredient Slow Cooker Cookbook: 100 Delicious No-Fuss Meals for Busy People de Karen Bellessa Petersen, il existe de nombreuses preuves pour étayer le fait qu’elle est un blogueur culinaire qui a une bouche et des mains et qui sait quel goût a la nourriture.
Il est facile de rire du contenu généré par l’IA qui a mal tourné. Le texte charabia, les imitations absurdes d’humains et les rendus déformés des images peuvent être des rappels comiques du chemin que doit parcourir l’IA générative – si vous savez quoi chercher, et c’est là que cela cesse d’être drôle. Vanciek a déclaré qu’Amazon « évalue constamment les développements qui ont un impact sur cette expérience, notamment l’évolution et l’expansion rapides des outils d’IA générative ».
L’IA générative est nouvelle pour beaucoup d’entre nous, et la plupart des consommateurs ne recherchent pas de signes d’IA lorsqu’ils parcourent avec désinvolture des livres de cuisine sur Amazon. Les gens dépensent sans le savoir de l’argent pour des livres de cuisine créés par des entités qui n’ont jamais goûté à la nourriture, et encore moins appris ce qui se passe dans l’élaboration d’une recette. Et ce n’est pas une question de rire.
Nous ajouterons une note si l’un de ces « auteurs » probables de l’IA s’avère être de véritables humains et exigera une correction, mais nous parions que cela n’arrivera pas.
MISE À JOUR : 21 mars 2024, 8 h 26 PDT Cet article a été mis à jour pour inclure les commentaires d’un représentant Amazon.
