OpenAI poursuivi pour diffamation après que ChatGPT aurait fabriqué de fausses allégations de détournement de fonds

Les « hallucinations » de l’IA conduisent les gens à des informations complètement inventées présentées comme factuelles.

OpenAI est-il responsable de ce que dit son chatbot AI populaire, ChatGPT ? Une nouvelle action en justice contre la société déposée par un animateur de radio basé en Géorgie fait valoir que la société l’est.

L’animateur d’Armed America Radio, Mark Walters, a porté plainte contre OpenAI pour diffamation plus tôt cette semaine, marquant le premier cas de ce type en IA, selon Bloomberg.

Alors, qu’est-ce-qu’il s’est passé? Selon la plainteFred Riehl, le rédacteur en chef du magasin d’armes AmmoLand, faisait des recherches pour un article sur une affaire devant un tribunal fédéral de Washington, Second Amendment Foundation v. Ferguson.

Lorsque Riehl a demandé à ChatGPT un résumé de l’affaire, ChatGPT a répondu avec des informations sur Walters, qui, selon le chatbot AI, était le trésorier et le directeur financier de la Second Amendment Foundation. Selon la poursuite de Walters, ChatGPT a déclaré à Riehl que Walters s’était engagé dans « des fraudes et des détournements de fonds » de l’organisation pour laquelle il travaillait.

Le procès indique que, selon ChatGPT, Walters « a détourné des fonds pour des dépenses personnelles sans autorisation ni remboursement, a manipulé des dossiers financiers et des relevés bancaires pour dissimuler ses activités et n’a pas fourni de rapports et de divulgations financiers précis et opportuns à la direction de la SAF ».

Un problème : tout ce que ChatGPT aurait dit à Riehl à propos de l’affaire et de Walters était complètement fabriqué. Walters n’a pas fraudé ni détourné de fonds de la Second Amendment Foundation. En fait, Walters ne travaille pas et n’a jamais travaillé pour l’organisation. La Fondation du deuxième amendement c.Ferguson l’affaire ne concerne même pas la fraude financière, c’est une plainte déposée par le groupe d’armes à feu contre le procureur général Bob Ferguson au sujet des lois sur les armes à feu de l’État de Washington. Comme Gizmodo souligne, Walters n’est mentionné nulle part dans le procès de 30 pages de la Second Amendement Foundation.

Lorsque Riehl a demandé à ChatGPT à l’époque de confirmer ce que le chatbot AI disait à propos de l’affaire judiciaire et de Walters, il a insisté sur le fait que les informations étaient correctes. ChatGPT est même revenu avec ce qu’il avait dit être « le paragraphe de la plainte qui concerne Walters ». ChatGPT a ensuite cité un paragraphe complètement inventé qui n’apparaît nulle part dans le dossier actuel de la Fondation du deuxième amendement contre Ferguson. Le chatbot AI a même cité un « numéro de dossier erroné ».

Riehl n’a pas fini par publier un article basé sur les informations de ChatGPT. Cependant, Walters a toujours déposé cette plainte contre OpenAI et demande « des dommages-intérêts punitifs d’un montant à déterminer au procès ».

Bien que Walters soit peut-être le premier à porter devant les tribunaux les « hallucinations de l’IA », la tendance de l’IA à fabriquer de fausses informations entraînera probablement davantage de cas de ce type dans un proche avenir. Un maire australien menacé de poursuivre OpenAI en avril après que ChatGPT a affirmé qu’il était un criminel condamné dans un scandale de corruption alors qu’en fait il était le lanceur d’alerte dans l’affaire.