Le clippy de l’IA : pourquoi la guerre entre Google Bard et Microsoft Bing va s’éteindre

Les géants de la technologie jouent-ils avec le feu en introduisant l’IA dans leurs outils de recherche – ou jouent-ils eux-mêmes ?

Imaginez que votre entreprise vient d’embaucher de nouveaux talents, une étoile montante de la direction si séduisante qu’une entreprise rivale vient d’embaucher un sosie. Le bourdonnement autour d’eux est enivrant. Tout le monde semble d’accord, du PDG aux actionnaires, cette personne est l’avenir de toute l’entreprise.

Ensuite, vous apprenez que l’exécutif a ce qu’on appelle poliment un « problème d’hallucination ». » Chaque fois qu’ils ouvrent la bouche, il y a 15 à 20 % de chances qu’ils inventent des trucs. Un professeur à Princeton appelle le gars un générateur de conneries. Ils ne peuvent littéralement pas distinguer la vérité de la fiction. Ils montent sur scène pour dévoiler un nouveau produit en cinq minutes. Les poussez-vous toujours sous les projecteurs ?

Pour Microsoft et Google cette semaine, la réponse était oui. Enthousiasmé par le succès de ChatGPT d’OpenAI, le chatbot d’intelligence artificielle avec 100 millions d’utilisateurs actifs par mois deux mois après son lancement, Microsoft a organisé un événement surprise de dernière minute pour annoncer qu’OpenAI apporterait la recherche de type ChatGPT au moteur de recherche Bing et Edge navigateur. Google a annoncé la veille un outil de recherche basé sur l’intelligence artificielle, Bard, et l’a dévoilé lors d’un événement à Paris le lendemain, mais a rencontré son propre problème d’hallucination.

« Une nouvelle course commence aujourd’hui », a déclaré le PDG de Microsoft, Satya Nadella, aux journalistes convoqués mardi sur le campus de Redmond, Washington. Oui, n’est-ce pas joli de le penser? Microsoft, l’enfant perpétuellement pas cool du bloc technologique, aimerait que vous pensiez que Bing – désolé, « le nouveau Bing » – est dans une course avec la recherche Google sur n’importe quoi.

La pré-réponse de Google annonçant Bard dégoulinant de condescendance : « Nous avons réorienté l’entreprise autour de l’IA il y a six ans », a écrit le PDG de Google, Sundar Pichai.

Google et le « problème des hallucinations »

Ce qui est révélateur. Google, le leader mondial de la recherche, a eu des années pour intégrer l’IA, et son rival ChatGPT, Bard, est à peine au stade bêta avec un petit groupe de testeurs. Malgré toute l’affectation hipster de Pichai, le dévoilement du barde avait un désordre imprévu. Google semble également avoir été pris au dépourvu par tout le buzz ChatGPT.

Sinon, comment expliquer l’erreur embarrassante de Bard en plein affichage au lancement – ​​pas lors de l’événement lui-même, où des erreurs de démonstration sont attendues, mais dans un GIF pré-fait? Un utilisateur est montré demandant à Bard des faits qu’il peut dire à son enfant de 9 ans sur le télescope spatial James Webb.

L’un de ces « faits », selon lequel le JWST a pris la toute première photo d’une exoplanète, est faux. Bard hallucinait. (MISE À JOUR : alors qu’un journaliste du Financial Times prétend Les paroles de Bard étaient techniquement exactesqui nécessite une lecture du langage qu’aucun humain n’emploierait jamais – ce qui est encore un autre problème avec la recherche par IA.)

Pas étonnant que la société mère Alphabet ait perdu jusqu’à 8% du cours de son action le jour du lancement de Bard. Google a mis le principal problème de la recherche par IA au premier plan et a en outre suggéré que l’entreprise ne pouvait pas utiliser son vaste entrepôt de données pour vérifier elle-même les faits.

Google devrait savoir mieux, étant donné qu’il avait déjà un « problème d’hallucination » avec ses extraits en vedette en tête des résultats de recherche en 2017. L’algorithme des extraits de code semblait particulièrement apprécier de raconter des mensonges sur les présidents américains. Encore une fois, qu’est-ce qui pourrait mal tourner?

En d’autres termes, lancez votre outil de recherche d’IA trop tôt et vous risquez de jouer vous-même. Microsoft a eu de la chance, en ce sens qu’aucune erreur évidente n’a été affichée lors de son événement de lancement. Mais si la recherche basée sur ChatGPT n’était pas truffée d’erreurs, pourquoi en est-elle à un stade bêta aussi provisoire ? Remarque complémentaire : si vous êtes intéressé par une QA AI non rémunérée pour Bing, il existe une feuille d’inscription.

« Il y a encore plus à faire là-bas », a déclaré Sarah Bird, responsable de l’IA responsable de Microsoft (un titre révélateur !) En réponse à une question de Wired sur le problème d’hallucination de ChatGPT.. Ouais, sans blague : le nombre d’hallucinations de 15 % provient d’une entreprise qui est dans sa propre course pour créer un vérificateur de faits ChatGPT. (MISE À JOUR : rapport haletant d’un chroniqueur du New York Times sur New Bing a révélé qu’il ne pouvait même pas obtenir les mathématiques de base correctes, ni même une liste d’activités locales adaptées aux enfants.)

Bird a ajouté que les versions précédentes du logiciel pouvaient aider les utilisateurs à planifier une fusillade dans une école, mais que cette fonctionnalité avait été désactivée. Bon à savoir! Qu’est-ce qui pourrait mal tourner ensuite ? Il n’y a sûrement aucune autre conséquence involontaire qui se cache dans ce produit de recherche bêta hallucinatoire qui pourrait embarrasser un grand géant de la technologie légalement vulnérable.

Clippy. Zune. Nouveau Bing.

Microsoft le sait par embarras, bien sûr : c’est la société qui nous a donné l’un des plus gros ratés de l’histoire du logiciel, Clippy. L’assistant trombone était célèbre pour avoir dispensé des conseils indésirables. ChatGPT n’est pas Clippy, dans le sens où nous y arrivons avec des questions.

Mais le fait qu’il hallucine souvent ses réponses – ou, plus souvent que vous ne le pensez, donne aux utilisateurs une variation banale sur « Je ne peux pas répondre à ça » – pourrait faire de Bing compatible ChatGPT une sorte de Clippy sur LSD. Si suffisamment d’utilisateurs occasionnels du « New Bing » obtiennent des résultats tronqués, c’est pour cela qu’on s’en souviendra.

Peu importe si un produit s’améliore plus tard ; la réponse populaire initiale est ce qui peut en faire une punchline. Microsoft devrait également le savoir ; il nous a donné le Zune. Déployer un produit ChatGPT avant qu’il ne soit vraiment prêt pour les heures de grande écoute n’est pas différent.

« The New Bing » demande déjà à être une punchline, honnêtement. Ou êtes-vous vraiment prêt à abandonner la recherche Google et votre navigateur Chrome pour Bing et Edge, si ce dernier devait gagner la course à la recherche d’IA, quoi que signifie réellement « gagner » ici ? Je ne le pensais pas. L’inertie technologique est profondément sous-estimée en tant que force.

ChatGPT est impressionnant dans certaines circonstances – les agents immobiliers en particulier l’adorent pour la rédaction d’annonces – et invoque la peur chez les autres. Mais chaque histoire sur ses perturbations semble en quelque sorte moindre, une fois que vous creusez sous le titre. Cela va conduire à une vague de plagiat étudiant ! Sauf qu’il peut aussi vous dire quand un article a été écrit par ChatGPT, neutralisant sa propre menace. Il a passé un examen d’école de droit! Sauf qu’en fait, il vient de gratter avec un C-plus.

Voici le problème : construire l’équivalent numérique d’un cerveau humain, connu dans les cercles de l’IA sous le nom d’« IA générale », est vraiment difficile. Nous commençons à peine à arriver au stade de l’intelligence des insectes, un autre objectif de longue date de l’IA. Ferez-vous vraiment confiance à ChatGPT pour fournir vos résultats de recherche, plutôt que, vous savez, de cliquer sur les liens vous-même ?

La réponse pourrait bien dépendre de combien vous-même, cher lecteur, avez un problème d’hallucination.