OpenAI a publié son identifiant de texte écrit par l’IA. Voici comment l’utiliser.

OpenAI publie l’outil au milieu des inquiétudes concernant la tricherie des élèves à l’école.

OpenAI, les créateurs de ChatGPT, ont clairement entendu les critiques sur son chatbot IA. À savoir, ceux des éducateurs qui ont exprimé leur inquiétude concernant les étudiants utilisant ChatGPT pour faire leurs devoirs ou écrire leurs papiers pour eux.

Mardi, OpenAI a publié un nouvel outil de classification de l’IA visant à répondre directement à ces préoccupations. L’outil Web gratuit a été créé par OpenAI afin d’aider les utilisateurs à déterminer si un bloc de texte a été écrit par un humain ou un ordinateur.

L’outil est simple à utiliser. Visitez simplement le classificateur AI, connectez-vous, puis copiez et collez le bloc de texte que vous souhaitez vérifier. Le classificateur classera ensuite le texte sur une échelle comme susceptible d’être généré par l’IA, éventuellement, peu clair, improbable ou très improbable.

Bien que cela semble incroyablement utile pour répondre à certaines préoccupations concernant le texte écrit par l’IA, OpenAI indique très clairement qu’il existe des mises en garde. Par exemple, selon OpenAI, « le classificateur n’est pas totalement fiable ».

« Dans nos évaluations sur un » ensemble de défis « de textes anglais, notre classificateur identifie correctement 26% du texte écrit par l’IA (vrais positifs) comme » probablement écrit par l’IA « , tout en étiquetant incorrectement le texte écrit par l’homme comme écrit par l’IA 9% du temps (faux positifs) », a déclaré la société dans un article de blog.

Il existe d’autres limitations avec le classificateur abordé par OpenAI dans son annonce. Par exemple, le classificateur fonctionne considérablement moins bien avec un texte de moins de 1 000 mots. Parfois, il peut faussement identifier le contenu écrit par l’homme comme du texte créé par un ordinateur. Et cela ne fonctionne vraiment bien qu’avec du texte en anglais.

OpenAI n’est pas le premier à publier un outil pour aider à détecter quand le texte est généré par ordinateur. En fait, ce n’est pas le premier outil de classification que la société elle-même a publié. Cependant, il est « nettement plus fiable » que son outil précédent, selon OpenAI. Et il est très remarquable qu’un tel outil soit continuellement travaillé par l’un des leaders de l’espace de l’IA.

Pourtant, il reste encore beaucoup de chemin à parcourir avant que les enseignants et les éducateurs puissent compter en toute confiance sur n’importe quel outil de détection d’IA pour détecter la tricherie en classe.