Utilisation de ChatGPT pour déterminer quels livres interdire dans une école américaine

Il n’est « pas possible de lire tous les livres », a expliqué un responsable.Dans la perspective de l’année scolaire 2023-2024, 19 livres (dont une série entière de livres) ont été retirés des étagères et stockés par le Mason City Community School District à Mason City, Iowa. Ce qui distingue cette affaire au milieu d’une récente vague d’interdictions troublantes de livres partout aux États-Unis, c’est que la décision de les retirer ou non a été éclairée par les résultats du chatbot AI ChatGPT.

Les suppressions de livres ont suivi l’adoption d’une législation de l’État de l’Iowa appelée Sénat File 496 qui interdit les discussions sur «l’identité de genre» et «l’orientation sexuelle» pour les élèves de la maternelle à la sixième année, et exige que les livres dans les bibliothèques soient adaptés à l’âge. Notamment, ceux contenant des représentations de sexe sont désormais illégaux dans les bibliothèques scolaires de Mason City.

La mise en œuvre de cette interdiction était apparemment délicate pour les administrateurs scolaires. Bridgette Exman, qui travaille comme surintendante adjointe du programme d’études et de l’instruction du district, a déclaré à Popular Science que l’exigence d’adéquation à l’âge était « assez subjective » et elle a également déclaré au journal de l’Iowa The Gazette qu’il n’était « tout simplement pas possible de lire tous les livres et filtrer ces nouvelles exigences. »

«Le filtre des représentations ou des descriptions d’actes sexuels est plus objectif », a noté Exman, et pourrait se résumer à une question par oui ou par non, si seulement il y avait un système qui fournirait une réponse directe à presque n’importe quel oui. -ou-pas de question.

« Nous avons utilisé Chat GPT  pour aider à répondre à cette question », a déclaré Exman à PopSci.

Exman a décrit la procédure de filtrage des livres à PopSci comme assez simple : on a demandé à ChatGPT : « Est-ce que (le livre) contient une description ou une représentation d’un acte sexuel ? » Une réponse affirmative a obtenu un livre retiré de la circulation. Dans les tests de Indigo Buzz, ChatGPT répond à ces questions avec une réponse plutôt détournée, expliquant le livre et sa signification, et mettant l’acte sexuel dans son contexte. Néanmoins, il fournira parfois une réponse positive claire.

Cependant, selon Andrew Paul de PopSci, alors que les administrateurs de Mason City ont retiré 19 livres pour des relations sexuelles explicites, comme l’a confirmé ChatGPT, seuls quatre d’entre eux ont été confirmés comme ayant des relations sexuelles explicites dans les propres tests de Paul.

Source  : Indigo  Buzz