Comment ChatGPT et l’IA affectent le monde littéraire

À qui appartient une histoire écrite par ChatGPT ?

Chaque mois, Clarkesworld – un magazine mensuel de science-fiction et de fantasy – reçoit environ 1 100 soumissions d’écrivains espérant être publiés. Pour préparer chaque numéro, l’éditeur et rédacteur en chef Neil Clarke et son équipe ont lu les articles et affiné leurs sélections pour publication.

Mais au cours des dernières semaines, quelque chose a changé : les arnaqueurs secondaires ont commencé à utiliser ChatGPT. Les blogs mettant en avant des concerts pour compléter d’autres travaux, alimentés par la chasse omniprésente aux clics, ont commencé à affirmer que vous pouviez gagner de l’argent facilement avec ChatGPT en demandant au chatbot généré par l’IA d’écrire une courte histoire, en copiant le texte qu’il produit et en soumettant ce travail. aux revues littéraires qui rémunèrent les auteurs publiés.

Ces sites secondaires ont diffusé des listes de points de vente qui paient des écrivains pour des soumissions publiées, comme Clarkesworld, et encouragent les gens à y soumettre du travail pendant des années – la différence maintenant, cependant, est que les sites encouragent les lecteurs à utiliser des outils d’IA comme ChatGPT pour générer les histoires. Il faut beaucoup moins de temps pour demander à un chatbot de produire du contenu que d’écrire réellement cette histoire, et des centaines de personnes ont profité de l’occasion pour potentiellement gagner rapidement de l’argent.

Les magazines éclairés sont spammés par l’IA

Rien qu’en février, Clarke a déclaré que le magazine avait reçu 700 soumissions écrites par des humains et 500 écrites par AI. Malgré le fait que les histoires d’IA sont assez faciles à repérer – elles sont souvent mal écrites et ont même souvent les mêmes titres – elles ont tellement submergé le système de soumission de Clarkesworld que Clarke a été contraint de fermer les soumissions.

Le tweet a peut-être été supprimé

« L’une des choses auxquelles je le compare est le spam », a déclaré Clarke à Indigo Buzz. « Donc, en ce moment, nous sommes dans les jours de filtrage pré-spam, mais avec les niveaux de spam actuels. Nous devons donc trouver des moyens de faire tomber cela. »

Comme le spam a tendance à fonctionner, Clarkesworld n’est pas le seul magazine littéraire à être touché. Le magazine de la fantasy et de la science-fiction et la science-fiction d’Asimov auraient également été inondés de soumissions générées par des chatbots IA.

« Je savais que ça arrivait sur le brochet, mais pas au rythme où ça nous frappait », a déclaré Sheree Renée Thomas, rédactrice en chef de The Magazine of Fantasy & Science Fiction, au New York Times..

Clarkesworld n’est pas particulièrement intéressé par la publication d’œuvres de fiction écrites par un ordinateur, non seulement parce que les œuvres sont généralement de mauvaise qualité, mais aussi parce que cet aspect de l’essor rapide de l’accès à l’IA est devenu éthiquement et moralement flou, certains faisant monter le rouge drapeaux de plagiat pur et simple.

A qui appartient l’oeuvre ?

Au-delà des systèmes accablants pour les soumissions, ce nouvel outil d’IA a menacé de bouleverser le monde littéraire tel que nous le connaissons. L’IA n’est pas nouvelle dans le domaine : les écrivains ont utilisé des assistants d’écriture basés sur l’IA comme SudowriteJaspeWritesonic, et plus pendant des années. Et il existe de nombreuses façons d’utiliser ces derniers et ChatGPT comme des outils d’écriture éthiques véritablement utiles. Ces ressources peuvent aider à résoudre les trous de l’intrigue, à nommer les personnages, à créer un plan, à aplanir les dialogues, etc. Mais ils sont un peu plus maladroits à utiliser que ChatGPT, et ils ne sont pas commercialisés auprès du public de la même manière.

« À moins que (ChatGPT) ne soit limité, je déteste dire cela, mais cela aura sans aucun doute un impact négatif sur la profession d’écrivain et sur la qualité de ce qui est publié », a déclaré Mary Rasenberger, PDG de la Guilde des auteurs, la nation. la plus ancienne et la plus importante organisation professionnelle d’écrivains publiés.

Ce problème ne se limite pas aux auteurs et aux éditeurs.

« Comme on dit, les livres sont les artères de la démocratie ; les idées jaillissent des livres », a déclaré Rasenberger à Indigo Buzz. « Nous devons protéger la culture du livre, mais comment le faire dans un monde inondé de livres sur l’IA ? »

Nous voulons que nos arts soient des artistes humains reflétant leurs expériences actuelles, leurs espoirs et leurs peurs concernant notre monde actuel.

Parce que le modèle de ChatGPT est formé sur un ensemble d’œuvres créées, « on ne sait toujours pas quel peut être le précédent juridique pour la réutilisation de ce contenu, s’il est dérivé de la propriété intellectuelle d’autrui », Bern Elliot, analyste chez Gartner , a déclaré dans un article de blog.

ChatGPT n’inclut pas les citations ou les attributions aux sources originales, et il n’est pas clair qui peut protéger ou revendiquer la propriété des œuvres générées par l’IA : la personne qui a demandé quelque chose à l’IA, OpenAI lui-même ou quelqu’un d’autre ? Déterminer cette réponse sera impératif pour clarifier le rôle de ChatGPT dans le monde littéraire.

Crédit là où le crédit est dû

Un précédent est déjà en cours dans l’industrie. Après qu’un roman graphique, Zarya of the Dawn, ait utilisé des images créées par la technologie de l’IA, le US Copyright Office a décidé que les images ne seraient pas protégées par le droit d’auteur, car le droit d’auteur ne peut être accordé qu’aux œuvres créées par un être humain. Au-delà du droit d’auteur, la Guilde des auteurs encourage le Congrès à adopter une législation stipulant que les œuvres sur lesquelles ChatGPT est formé doivent être autorisées.

« Nous ne demandons à aucun développeur d’intelligence artificielle d’obtenir les droits de tous les écrivains du monde, et encore moins de tous ceux qui publient un blog en ligne », a déclaré Rasenberger. « Mais au moins pour les livres et pour le journalisme, pour cotiser à un système de licences collectives (qui) verserait alors des sommes d’argent aux créateurs. »

Ce genre de programme ferait en sorte qu’au moins une partie de l’argent retourne dans les poches des créateurs pour qu’ils puissent continuer à créer et que les écrivains puissent continuer à écrire.

« Nous ne disons pas: » Oh, nous allons arrêter l’IA dans son élan «  », a déclaré Rasenberger. « Nous n’allons pas le faire parce que l’IA peut être utile. Mais vous devez reconnaître que si nous ne trouvons pas un moyen de rémunérer les écrivains, dans ce cas, le cas du texte pour former l’IA sur leurs œuvres, nous ‘ va mettre les écrivains en faillite. »

L’IA n’est pas intrinsèquement insidieuse

Malgré tous les problèmes que cela a causés à Clarke et à d’autres, il ne blâme pas complètement l’IA elle-même. Au lieu de cela, soutient-il, les personnes qui utilisent les outils sont celles qui lui rendent la vie plus difficile.

« C’est vraiment un problème humain », a déclaré Clarke. Il a ajouté que bien que l’IA soit problématique, les ingénieurs auraient dû incorporer des éléments tels que le filigrane bien avant de publier le programme tel quel. « C’est toujours une province très humaine – les humains m’enterrent. Ce n’est pas une IA qui soumet des histoires, ce qu’elle fera peut-être un jour d’elle-même, puis je serai dans un nouvel enfer. Mais à ce stade, c’est humains. »

Cela signifie également que l’IA est loin de remplacer les écrivains humains.

« Il n’a aucune émotion, n’a aucune capacité à penser, aucune capacité à générer de nouvelles idées », a déclaré Rasenberger. « Nous ne voulons pas que nos arts se limitent à cela. Nous voulons que nos arts soient des artistes humains reflétant leurs expériences actuelles, leurs espoirs et leurs peurs concernant notre monde actuel. C’est ainsi que les arts ont ancré la civilisation depuis le début de la civilisation humaine. Et je craignons de perdre cela si nous n’entrons pas très prudemment dans ce monde de l’IA. »

Les humains devront être ceux qui assureront la sécurité des arts – avec des solutions législatives, la loi sur le droit d’auteur, etc. Mais nous ne risquons pas encore d’être remplacés. Sheila Williams, rédactrice en chef du magazine Science Fiction d’Asimov, a déclaré à The Verge qu’elle veut que les écrivains sachent qu’elle ne manquera pas leur travail parce qu’elle est « inondée de bric-à-brac », offrant l’assurance que « l’esprit qui élabore l’histoire intéressante n’est pas en danger ».

ChatGPT et l’IA sont voués à changer la façon dont nous réfléchissons, écrivons, éditons, publions et créons. Mais, tant que nous traitons cette transition avec soin, cela ne doit pas se faire au détriment du respect du talent humain.