Cet État autorise l'IA à l'aider à statuer sur ses demandes d'allocations chômage
C'est une expérience risquée.
Le Nevada deviendra le premier État à piloter un système d'IA générative conçu pour prendre des décisions en matière de demandes d'allocations chômage, présenté comme un moyen d'accélérer les recours et de s'attaquer à l'énorme arriéré de dossiers du pays. Il s'agit d'une expérience risquée et inédite d'intégration de l'IA dans la prise de décision à un niveau supérieur.
Google est à l'origine de la technologie du programme, qui gère les transcriptions des audiences d'appel en matière de chômage via les serveurs d'IA de Google, analysant les données afin de fournir des décisions de réclamation et des recommandations de prestations à des « arbitres humains », a rapporté Gizmodo. Le conseil des examinateurs du Nevada a approuvé le contrat au nom de son ministère de l'emploi, de la formation et de la réadaptation (DETR) en juillet, malgré une opposition juridique et politique plus large contre l'intégration de l'IA dans la bureaucratie.
Christopher Sewell, directeur du DETR, a déclaré à Gizmodo que les humains seront toujours fortement impliqués dans la prise de décision en matière d'assurance chômage. « Il n'existe pas d'IA (de décisions écrites) qui soient prises sans interaction humaine et sans examen humain. Nous pouvons prendre des décisions plus rapidement afin qu'elles aident réellement le demandeur », a déclaré Sewell.
Mais des groupes juridiques et des universitaires du Nevada ont fait valoir que le temps gagné par l'IA de génération serait annulé par le temps qu'il faudrait pour procéder à un examen humain approfondi de la décision de réclamation. Beaucoup ont également fait part de leurs inquiétudes quant à la possibilité que des informations privées et personnelles (y compris des informations fiscales et des numéros de sécurité sociale) soient divulguées via le studio d'IA Vertex de Google, même avec des mesures de protection. Certains ont des hésitations concernant le type d'IA lui-même, connu sous le nom de génération augmentée de récupération (RAG), qui s'est avéré produire des réponses incomplètes ou trompeuses aux invites.
Partout dans le pays, des outils basés sur l’IA ont été discrètement déployés ou testés dans diverses agences de services sociaux, l’IA générative s’intégrant davantage dans l’écosystème administratif. En février, les Centers for Medicare and Medicaid Services (CMS) fédéraux ont décidé de ne pas utiliser l’IA (y compris l’IA générative ou les algorithmes) comme décideur pour déterminer les soins ou la couverture des patients. Cette décision fait suite à une action en justice intentée par deux patients qui affirmaient que leur assureur utilisait un modèle d’IA « frauduleux » et « nuisible » (connu sous le nom de nH Predict) qui outrepassait les recommandations des médecins.
Axon, fabricant de technologies et d'armes pour la police, a présenté plus tôt cette année son premier modèle de langage génératif Draft One (LLM) qui aide les forces de l'ordre à rédiger des rapports « plus rapides et de meilleure qualité ». Encore en phase d'essai, la technologie a déjà sonné l'alarme, suscitant des inquiétudes quant à la capacité de l'IA à analyser les nuances des interactions tendues entre la police et le public, ce qui pourrait aggraver le manque de transparence dans le maintien de l'ordre.
