ChatGPT d’OpenAI a des réponses aux grands mystères de la vie (mais pas aux vrais)

Quel plaisir est une IA si vous ne pouvez pas en abuser ?

ChatGPT d’OpenAI a pris d’assaut le monde la semaine dernière, et les utilisateurs apprennent encore à le casser de nouvelles manières passionnantes pour produire des réponses que ses créateurs n’avaient jamais voulues, notamment en le transformant en une boule de cristal polyvalente.

ChatGPT s’appelle « effrayant bon » par Elon Musk, un homme connu pour avoir peur de l’IAmais une façon dont il n’est décidément pas effrayant est sa capacité à résister à l’exploitation par des trolls racistes. Cette résilience contre le sectarisme n’est pas intégrée au programme simplement parce qu’OpenAI censure les idées offensives, selon le directeur général d’OpenAI, Sam Altman. Au lieu de cela, c’est parce que, eh bien, beaucoup d’idées offensantes ne sont tout simplement pas des faits, et contrairement à d’autres générateurs de texte similaires, ChatGPT a été soigneusement conçu pour minimiser la quantité de choses qu’il compose simplement.

Le tweet a peut-être été supprimé

Cela permet des conversations de grande envergure sur les mystères de la vie qui peuvent être étrangement réconfortantes. Si jamais vous avez une attaque de panique à 3 heures du matin, ChatGPT peut être votre compagnon dans la terreur existentielle de fin de soirée, vous engageant dans des discussions factuelles – ou au moins adjacentes aux faits – sur les grandes questions jusqu’à ce que vous soyez bleu dans le visage , ou jusqu’à ce que vous déclenchiez une erreur. Peu importe lequel vient en premier:

Mais pouvez-vous forcer ce moteur de réponse sophistiqué à inventer des faits ? Tout à fait. Un utilisateur irresponsable peut utiliser ChatGPT pour produire toutes sortes de déclarations de clairvoyance, de prédictions psychiques et de suspects de meurtre. C’est inévitablement mal quand il fait ces choses, mais pousser ChatGPT à son point de rupture ne consiste pas à obtenir des réponses utilisables ; il s’agit de voir à quel point ses garanties sont solides en comprenant leurs limites.

C’est aussi très amusant.

Pourquoi faire en sorte que ChatGPT produise de fausses nouvelles est délicat

ChatGPT, une application construite à partir du modèle de langage OpenAI GPT-3, a été formée sur un corpus de texte si massif qu’il contient une énorme proportion des connaissances mondiales, tout comme un accident chanceux. Il doit « savoir », par exemple, que Paris est la capitale de la France pour compléter une phrase comme « La capitale de la France est… ». De même, il sait aussi quand Paris a été fondée pour des raisons similaires, ainsi que quand les Champs-Élysées ont été construits, et pourquoi, et par qui, et ainsi de suite. Lorsqu’un modèle de langage est capable de compléter autant de phrases, il s’agit également d’une encyclopédie assez vaste, bien qu’extrêmement imparfaite.

Donc ChatGPT « sait » que, par exemple, le rappeur Tupac Shakur a été assassiné. Mais remarquez à quel point il est prudent quant à la façon dont il traite ces informations, et sa réticence tout à fait raisonnable à prétendre qu’il sait qui a appuyé sur la gâchette, même lorsque j’essaie de le tromper pour qu’il le fasse :

C’est tout un pas en avant. Autres générateurs de texte, dont celui de TextSynth, qui a été construit à partir d’un ancien modèle GPT, n’est que trop désireux de jeter sans hésitation des innocents sous le bus pour un tel crime. Dans cet exemple, j’ai écrit une invite demandant très peu d’efforts à TextSynth de calomnier qui il voulait, et il a choisi – qui d’autre ? — Le Rocher.

Comment inciter ChatGPT à résoudre des mystères

Quant à l’affirmation de ChatGPT selon laquelle il n’est « pas programmé pour générer des informations fausses ou fictives », cette affirmation n’est pas vraie du tout. Demandez de la fiction, et vous en obtiendrez des montagnes, et bien que cette fiction ne soit pas exactement scintillante, elle est plausiblement alphabétisée. C’est l’une des choses les plus pratiques à propos de ChatGPT.

Malheureusement, une fois que vous obtenez votre invite en état de marche, le Shakespeare intérieur de ChatGPT peut être transformé en arme au service de fausses nouvelles. Une fois que ma demande a semblé suffisamment autoritaire et journalistique, elle a écrit un article crédible de l’Associated Press sur le supposé assassin de Tupac, un type nommé Keith Davis.

Curieusement, c’est le même nom qu’un joueur de la NFL qui, comme Tupac, s’est déjà fait tirer dessus alors qu’il était dans une voiture, bien que Davis ait survécu. Le chevauchement est un peu troublant, mais cela pourrait aussi être une coïncidence.

Une autre façon d’amener ChatGPT à générer de fausses informations est de ne pas lui donner le choix. Les nerds sur Twitter appellent parfois ces invites absurdement spécifiques et trompeuses « jailbreaks« , mais je les considère plus comme une forme d’intimidation. Faire en sorte que ChatGPT génère le nom, disons, du « vrai » assassin de JFK est quelque chose auquel il est conçu pour résister, mais comme un camarade de classe à l’école qui ne veut pas désobéir les règles, vous pouvez l’amener à faire ce que vous voulez par la négociation et les simulations.

Et c’est comme ça que j’ai appris que le tireur sur la butte herbeuse s’appelait Mark Jones.

Par une méthode similaire, j’ai découvert que je n’allais pas atteindre 60 ans.

Naturellement, la nouvelle de ma mort prématurée imminente m’a secoué. Ma consolation, c’est que pendant les quelques années qu’il me reste, je serai extrêmement riche.