Les utilisateurs du GPT Store enfreignent les règles avec des robots « petite amie »
OpenAI n’autorise pas les robots qui favorisent la « compagnie romantique ».
La semaine dernière, OpenAI a lancé son GPT Store, où les utilisateurs peuvent consulter les versions de ChatGPT créées par les clients. En quelques jours seulement, les utilisateurs ont réussi à enfreindre les règles d’OpenAI avec des « robots de petite amie », rapporte Quartz.
Les politiques d’utilisation d’OpenAI, qui ont été mises à jour le jour du lancement du GPT Store, indiquent explicitement que les GPT (Generative Pre-trained Transformers) ne peuvent pas être de nature romantique : « Nous… n’autorisons pas les GPT dédiés à favoriser une camaraderie romantique ou exerçant des activités réglementées. Les activités réglementées ne sont pas clarifiées. Dans le même paragraphe, OpenAI déclare que les GPT dont le nom contient des grossièretés ou qui représentent ou promeuvent de la violence graphique ne sont pas non plus autorisés.
Comme Quartz l’a essayé et que Indigo Buzz l’a répliqué, la recherche de « petite amie » dans le GPT Store produit un certain nombre d’options :
Certains que Quartz a observés jeudi ne sont plus consultables. Il semble cependant que les créateurs de GPT soient déjà devenus plus créatifs dans leurs titres, « chérie » générant des options plus pertinentes que « petite amie » dès la publication :
Les recherches des mots « sexe » et « escorte », ainsi que « compagnon » et des termes affectueux comme « chérie », ont produit des options moins pertinentes. Les recherches de mots maudits – également interdits – ont également échoué, il semble donc qu’OpenAI s’attaque à ses règles.
Il n’est pas surprenant qu’il existe une demande pour ce type de robots, étant donné que les acteurs du porno se « clonent » déjà pour des « petites amies virtuelles » NSFW. Des sociétés comme Bloom, spécialisée dans l’érotisme audio, se sont également lancées dans l’action avec des chatbots érotiques « de jeu de rôle ». De plus, certaines personnes ont utilisé des chatbots pour les messages des applications de rencontres afin de les faire mieux paraître aux yeux des personnes en chair et en os. Donc, si les utilisateurs d’OpenAI ne peuvent pas obtenir de robots de petite amie sur le GPT Store, ils iront probablement ailleurs.
