Sam Altman d'OpenAI a eu une AMA sur Reddit : 5 points à retenir sur ChatGPT et plus

Nous lisons l'AMA Reddit pour que vous n'ayez pas à le faire.

OpenAI et son PDG Sam Altman ont eu une journée bien remplie jeudi. Après avoir lancé ChatGPT Search, une nouvelle fonctionnalité du moteur de recherche qui connecte ChatGPT aux informations en temps réel, Altman et d'autres dirigeants d'OpenAI ont hébergé une AMA (Ask Me Anything) sur le subreddit r/ChatGPT de Reddit.

Altman et Cie. a partagé quelques pépites intéressantes sur ChatGPT Search, les mises à jour de modèles et les projets futurs dans lesquels l'AGI (Artificial General Intelligence) joue un rôle. Nous avons distillé les principaux points à retenir de l'AMA et les avons partagés ici afin que vous n'ayez pas à lire le barrage apparemment interminable de questions.

Et oui, au cas où vous vous poseriez la question, Altman a utilisé ChatGPT pour certaines de ses réponses.

Utiliser ChatGPT en tant que thérapeute

Altman a abordé l'un des cas d'utilisation les plus controversés de ChatGPT, qui se tourne vers le chatbot comme forme de thérapie. « Ce n'est évidemment pas un thérapeute, mais il est clair que beaucoup de gens trouvent utile de parler de leurs problèmes », a-t-il déclaré avant d'ajouter : « Nous avons vu beaucoup de startups explorer vraiment comment faire plus ici ; j'espère que quelqu'un construit quelque chose (sic) de génial ! »

En lisant entre les lignes, Altman ne tolère pas ChatGPT à des fins thérapeutiques, mais il ne dit pas non plus de ne pas l'utiliser pour résoudre vos problèmes personnels. Dans le même ordre d’idées, ChatGPT n’est pas conforme à la HIPAA. Cela signifie que les informations profondément personnelles que vous partagez ou partagées de manière contraire à l'éthique par des professionnels de la santé mentale et de la santé ne sont pas protégées par la Health Insurance Portability and Accountability Act (HIPAA).

Interrogé sur les projets de formation de nouveaux modèles pour une littérature médicale spécifique, le CPO d'OpenAI, Kevin Weill, a déclaré qu'ils « commençaient à travailler sur la conformité HIPAA pour notre produit d'entreprise ». ChatGPT pourrait bientôt être conforme à la loi HIPAA, mais comme mentionné, ce n'est pas le cas actuellement.

Attendez-vous à ce que ChatGPT vous envoie un message très bientôt

Vous vous souvenez de ce « problème » lorsque ChatGPT a commencé à envoyer des messages aux utilisateurs ? Ce n'était peut-être pas un problème, mais un aperçu des projets futurs. Lorsqu'on lui a demandé si ChatGPT serait éventuellement capable d'effectuer des tâches par lui-même, comme envoyer d'abord un message à l'utilisateur, Weill a répondu : « À mon humble avis, cela va être un thème important en 2025. »

Dans le même ordre d'idées, en réponse à la seule chose qu'il souhaite que ChatGPT puisse faire mais qu'il ne peut pas encore faire, le vice-président de l'ingénierie Srinivas Narayanan a déclaré : « J'aimerais qu'il comprenne mieux mes informations personnelles et prenne des mesures en mon nom. « .

Des questions sur l'AGI ont été fréquemment posées tout au long de l'AMA, mais le plus important à retenir est qu'Altman estime que « c'est réalisable avec le matériel actuel ». Alors préparez-vous à un avenir proche où ChatGPT disposera d’une forme d’agence autonome.

ChatGPT Search cherche à bouleverser le référencement

Le jour où OpenAI a lancé son moteur de recherche, ChatGPT Search, les rédacteurs se posaient de nombreuses questions. On ne sait pas encore grand-chose sur le fonctionnement du moteur de recherche, mais OpenAI a divulgué quelques informations. ChatGPT utilise-t-il toujours Bing comme moteur de recherche ? « Nous utilisons un ensemble de services et Bing est un service important », a déclaré Narayanan.

Les rédacteurs étaient également curieux de savoir comment la stratégie de référencement joue sur le classement des éditeurs et des entreprises dans ChatGPT Search. Et la réponse était une grosse non-réponse. « Le produit vient d'être lancé aujourd'hui, il reste donc encore beaucoup à déterminer sur les points où la recherche sera similaire et sur les points où elle sera différente dans un monde d'IA », a déclaré Weill.

Altman a également évoqué les projets potentiels concernant ChatGPT Search, affirmant qu'il « attend avec impatience un avenir dans lequel une requête de recherche peut afficher dynamiquement une page Web personnalisée en réponse ! » En bref, si ChatGPT Search réussit, cela pourrait remodeler considérablement le trafic de recherche.

Les hallucinations seront toujours un problème difficile

Quel que soit le degré d’avancement de ChatGPT, les hallucinations seront un problème persistant. Cependant, le vice-président principal de la recherche, Mark Chen, a tenté de rejeter la faute sur l'erreur humaine. « Nous nous concentrons beaucoup sur la diminution des hallucinations, mais il s'agit d'un problème fondamentalement difficile : nos modèles apprennent à partir de textes écrits par des humains, et les humains déclarent parfois avec confiance des choses dont ils ne sont pas sûrs », a déclaré Chen.

Néanmoins, Chen a déclaré que les modèles d'OpenAI « s'améliorent en matière de citation, ce qui fonde leurs réponses sur des sources fiables ». Il pense également que l'apprentissage par renforcement peut aider à vérifier quand les modèles hallucinent et à « les récompenser s'ils ne le font pas ».

Singing ChatGPT, nouveau contenu DALL-E et NSFW

Qu’en est-il des autres projets futurs pour ChatGPT ? Dans une démo au printemps dernier, OpenAI a montré les compétences de chant du mode Advanced Voice, mais ce n'est pas actuellement une fonctionnalité en direct. Lorsqu'on lui a demandé si OpenAI « assouplirait » les restrictions concernant les capacités musicales « comme le chant, Weill a répondu qu'ils y travaillaient.

Y aura-t-il bientôt un nouveau DALL-E ? Il n'y a pas encore de plan de sortie, mais « la prochaine mise à jour en vaudra la peine », a déclaré Altman.

Et ce ne serait pas une AMA Reddit sans quelques questions sur le contenu NSFW. Les adultes pourront-ils accéder au contenu NSFW ? » a demandé un rédacteur. « Nous croyons totalement qu'il faut traiter les utilisateurs adultes comme des adultes. Mais cela demande beaucoup de travail pour y parvenir, et pour le moment, nous avons des priorités plus urgentes. Nous aimerions y parvenir un jour », a déclaré Altman.