OpenAI dispose d'un outil de détection de ChatGPT « efficace à 99 % ». Alors pourquoi ne le publient-ils pas ?
Il pourrait devenir beaucoup plus difficile pour les étudiants de tricher en utilisant ChatGPT.
Selon un rapport du Wall Street Journal, OpenAI, soutenu par Microsoft, a admis disposer d'un outil capable de filigraner le texte généré par ChatGPT. Selon OpenAI, le système est prêt depuis plus d'un an maintenant ; cependant, la question de savoir s'il doit être publié ou non fait l'objet d'un débat.
Cet aveu se présente sous la forme d'une mise à jour d'un article de blog d'OpenAI paru en mai et intitulé « Comprendre la source de ce que nous voyons et entendons en ligne ». Selon le rapport du WSJ, le système fonctionne en modifiant la façon dont ChatGPT génère ses mots. Ainsi, les modifications apportées par le système laisseraient un motif ou un filigrane qui peut être détecté par l'outil anti-triche.
Des documents internes obtenus par le WSJ montrent que le système de filigrane est efficace à 99,9 % « lorsque suffisamment de nouveau texte est créé par ChatGPT ».
Cet outil serait une aubaine pour les enseignants et les éducateurs de tout le pays qui luttent contre les élèves qui utilisent ChatGPT pour tricher sur leurs devoirs et leurs dissertations. Et malgré l’efficacité démontrée par les tests internes de l’outil (jusqu’à 99 pour cent d’efficacité), OpenAI a hésité à le publier.
Selon une déclaration d'un porte-parole de l'entreprise au WSJ, la raison derrière cela est la conviction d'OpenAI que « l'outil pourrait affecter de manière disproportionnée des groupes tels que les anglophones non natifs ». Cependant, une autre raison principale pourrait être une enquête d'avril 2023 qui a révélé que 30 % des utilisateurs de ChatGPT ont déclaré qu'ils cesseraient d'utiliser l'IA générative si le tatouage numérique était déployé.
Ce débat interne sur la publication de l'outil fait rage depuis deux ans chez OpenAI, une source de l'entreprise déclarant au WSJ : « C'est juste une question d'appuyer sur un bouton. »
