La cascade de l’avocat AI de DoNotPay annulée après l’objection de plusieurs barreaux d’État

Le robot avocat a été rapidement désactivé par de vrais avocats.

Ne pas payer la semaine dernière Le PDG Joshua Browder a annoncé que le chatbot IA de l’entreprise représenterait un défendeur devant un tribunal américain, marquant la première utilisation de l’intelligence artificielle à cette fin. Maintenant, l’expérience a été annulée, Browder déclarant qu’il a reçu des objections de plusieurs barreaux d’État.

« Mauvaise nouvelle : après avoir reçu des menaces de la part des procureurs du Barreau de l’État, il semble probable qu’ils me mettront en prison pour 6 mois si je poursuis en faisant venir un robot avocat dans une salle d’audience physique », Browder a tweeté jeudi. « DoNotPay reporte notre procès et s’en tient aux droits des consommateurs. »

Le tweet a peut-être été supprimé

Le plan était d’utiliser l’IA de DoNotPay dans un cas d’excès de vitesse devrait être entendu le 22 février. Le chatbot fonctionnerait sur un smartphone, écoutant ce qui se disait au tribunal avant de donner des instructions au défendeur anonyme via un écouteur.

Cependant, de nombreux procureurs n’ont pas bien répondu à la cascade proposée par DoNotPay, écrivant à Browder pour l’avertir que cela enfreindrait potentiellement la loi. Plus précisément, Browder peut être poursuivi pour pratique non autorisée du droit, un crime qui pourrait le mettre derrière les barreaux pendant six mois dans certains États.

À la lumière de cela, Browder a choisi de mettre fin à toute l’expérience plutôt que de risquer une peine de prison.

« Même si cela ne se produisait pas, la menace d’accusations criminelles était suffisante pour y renoncer », a déclaré Browder à NPR..

C’est probablement pour le mieux. Le chatbot légal de DoNotPay a été développé à l’aide du ChatGPT d’OpenAI qui, bien que sophistiqué pour un chatbot IA, présente encore des défauts importants. Compter dessus pour quelque chose d’important n’est pas la meilleure idée à ce stade.

Ce quasi-accident avec le mauvais côté de la loi semble également avoir amené DoNotPay à réévaluer ses produits. Auparavant, la société proposait des documents juridiques générés par ordinateur pour une grande variété de questions, couvrant tout, des paiements de pension alimentaire à l’annulation d’un mariage. Maintenant, Browder a annoncé que DoNotPay ne traitera que les cas concernant la législation sur les droits des consommateurs à l’avenir, supprimant tous les autres services « avec effet immédiat ».

« Contrairement aux drames judiciaires, les affaires (de droits des consommateurs) peuvent être traitées en ligne, sont simples et mal desservies », Browder a tweeté. « J’ai réalisé que les produits juridiques non liés aux droits des consommateurs (par exemple, les lettres de demande en diffamation, les accords de divorce et autres), qui sont très peu utilisés, sont une distraction. »

Le PDG a également déclaré que les employés sont actuellement journées de travail de 18 heures pour améliorer l’expérience utilisateur de DoNotPay, ce qui ne semble pas être quelque chose dont on peut se vanter.

Bien que l’expérience d’IA de DoNotPay aurait appliqué l’IA à un nouveau domaine, cela n’aurait pas été la première utilisation de l’intelligence artificielle dans une salle d’audience américaine. Des États tels que New York et la Californie ont déjà utilisé l’outil d’IA COMPAS (Correctional Offender Management Profiling for Alternative Sanctions) pour évaluer si quelqu’un est susceptible de récidiver, en tenant compte de cela lors de la détermination de la caution.

Malheureusement, même ce logiciel d’IA est défectueux. Une étude de 2016 par ProPublica a constaté que COMPAS est plus susceptible de marquer à tort les accusés noirs comme à risque plus élevé, tout en marquant également à tort les accusés blancs comme à faible risque.

L’intelligence artificielle peut sembler être une technologie passionnante aux nombreuses fins utiles. Mais certaines choses sont encore mieux laissées aux vrais humains.