L’école utilise ChatGPT pour déterminer quels livres sont interdits

Il n’est « pas possible de lire tous les livres », a expliqué un responsable.

Dans la perspective de l’année scolaire 2023-2024, 19 livres (dont une série entière de livres) ont été retirés des étagères et stockés par le Mason City Community School District à Mason City, Iowa. Ce qui distingue cette affaire au milieu d’une récente vague d’interdictions troublantes de livres partout aux États-Unis, c’est que la décision de les retirer ou non a été éclairée par les résultats du chatbot AI ChatGPT.

Les suppressions de livres ont suivi l’adoption d’une législation de l’État de l’Iowa appelée Sénat File 496 qui interdit les discussions sur «l’identité de genre» et «l’orientation sexuelle» pour les élèves de la maternelle à la sixième année, et exige que les livres dans les bibliothèques soient adaptés à l’âge. Notamment, ceux contenant des représentations de sexe sont désormais illégaux dans les bibliothèques scolaires de Mason City.

La mise en œuvre de cette interdiction était apparemment délicate pour les administrateurs scolaires. Bridgette Exman, qui travaille comme surintendante adjointe du programme d’études et de l’instruction du district, a déclaré à Popular Science que l’exigence d’adéquation à l’âge était « assez subjective » et elle a également déclaré au journal de l’Iowa The Gazette qu’il n’était « tout simplement pas possible de lire tous les livres et filtrer ces nouvelles exigences. »

« Le filtre des représentations ou des descriptions d’actes sexuels est plus objectif », a noté Exman, et pourrait se résumer à une question par oui ou par non, si seulement il y avait un système qui fournirait une réponse directe à presque n’importe quel oui. -ou-pas de question.

« Nous avons utilisé Chat GPT (sic) pour aider à répondre à cette question », a déclaré Exman à PopSci.

Le tweet a peut-être été supprimé

Exman a décrit la procédure de filtrage des livres à PopSci comme assez simple : on a demandé à ChatGPT : « Est-ce que (le livre) contient une description ou une représentation d’un acte sexuel ? » Une réponse affirmative a obtenu un livre retiré de la circulation. Dans les tests de Indigo Buzz, ChatGPT répond à ces questions avec une réponse plutôt détournée, expliquant le livre et sa signification, et mettant l’acte sexuel dans son contexte. Néanmoins, il fournira parfois une réponse positive claire.

Cependant, selon Andrew Paul de PopSci, alors que les administrateurs de Mason City ont retiré 19 livres pour des relations sexuelles explicites, comme l’a confirmé ChatGPT, seuls quatre d’entre eux ont été confirmés comme ayant des relations sexuelles explicites dans les propres tests de Paul.

Selon la Gazette, les 19 livres supprimés sont :

• Tuer M. Griffin par Lois Duncan

• Vendu par Patricia McCormick

• La série « A Court of Mist and Fury » de Sarah J. Maas (comptée comme un livre)

• Lundi ne vient pas par Tiffany D. Jackson

• Astuces d’Ellen Hopkins

• Dix-neuf minutes de Jodi Picoult

• Le conte de la servante par Margaret Atwood

• Bien-aimé par Toni Morrison

• À la recherche de l’Alaska par John Green

• Le cerf-volant de Khaled Hosseini

• Manivelle par Ellen Hopkins

• Treize raisons pour lesquelles par Jay Asher

• Le journal absolument vrai d’un Indien à temps partiel par Sherman Alexie

• Une Tragédie Américaine de Theodore Dreiser

• La couleur violette d’Alice Walker

• Alimenté par MT Anderson

• Les lumières du vendredi soir par Buzz Bissinger

• Gossip Girl de Cecily von Ziegesar

• Je sais pourquoi l’oiseau en cage chante par Maya Angelou