Le maire de New York, Eric Adams, s'est appuyé sur les nouvelles technologies pour résoudre ses problèmes. Cela n'a pas fonctionné.

Les nouvelles initiatives technologiques de la ville de New York n'ont pas rencontré beaucoup de succès.

Les hommes politiques, du moins aux États-Unis, sont souvent critiqués pour être déconnectés des technologies de base. Mais que se passe-t-il lorsque les choses vont trop loin dans l’autre sens ? Que se passe-t-il lorsqu’un homme politique tente de s’appuyer excessivement sur une technologie non éprouvée pour résoudre ses problèmes ?

Les nouvelles technologies, correctement déployées, peuvent évidemment être une aubaine pour n'importe quelle ville, mais à New York, le maire Eric Adams est sur une longue série de faux pas technologiques, démontrant les débâcles qui peuvent se produire lorsque les dirigeants ne comprennent pas ce qui peut mal tourner.

Le chatbot IA de New York pour les entreprises

Vendredi, trois agences de presse à but non lucratif – The Markup, Documented et The City – ont co-publié un rapport cinglant du journaliste Colin Lecher sur le chatbot IA déployé par le maire Adams et le gouvernement de New York.

Lorsque le maire Eric Adams a annoncé le « Plan d'action sur l'intelligence artificielle de la ville de New York » en octobre de l'année dernière, la ville l'a présenté comme « le premier plan en son genre pour une utilisation responsable de l'intelligence artificielle par le gouvernement de New York ». L'annonce a mis en lumière une partie très spécifique du plan, le « premier chatbot IA à l'échelle de la ville » qui serait déployé sur les sites Web commerciaux officiels du gouvernement de New York afin d'aider les propriétaires d'entreprise à « accéder à des informations fiables ». Le chatbot est alimenté par le service Azure AI de Microsoft.

Cependant, Lecher a découvert que le chatbot IA dit plutôt aux propriétaires d'entreprises de New York d'enfreindre la loi.

Le rapport de Lecher fournit exemple après exemple de chatbot IA donnant de mauvais conseils sur des questions très élémentaires. Par exemple, lorsqu'on lui a posé des questions pertinentes, le chatbot a déclaré à Lecher que les propriétaires d'entreprise pouvaient prendre une part des pourboires de leurs prestataires de services – ce qu'ils ne peuvent pas légalement – ​​que les propriétaires pouvaient discriminer les locataires en fonction de leurs revenus – ce qui est contraire à la loi – et que vous peut gérer un magasin sans numéraire à New York – ce qui est également illégal.

Surveillance robotisée du métro

À la fin de l'année dernière, le maire Adams a annoncé un programme pilote pour un nouveau robot en forme d'œuf de 400 livres, équipé d'une caméra de sécurité, nommé K5, qui patrouillerait dans la station de métro Times Square.

Le tweet a peut-être été supprimé

K5 a été décrit comme un « robot de sécurité extérieur entièrement autonome » par ses créateurs, une société appelée Knightscope. Cependant, comme le rapporte le New York Daily News, le robot était accompagné à tout moment par deux policiers humains du NYPD. Adams a exprimé ses inquiétudes quant au vandalisme du K5, mais entre-temps, les groupes de défense des droits civiques ont exprimé des préoccupations très différentes concernant la vie privée des New-Yorkais ordinaires et se sont demandés si une technologie controversée de reconnaissance faciale serait éventuellement déployée dans le K5.

Comme l'a rapporté le New York Times l'année dernière, des experts juridiques estimaient également que le robot de surveillance violait la loi sur la surveillance publique des technologies de surveillance, « une loi municipale exigeant que le département publie des détails sur la manière dont les nouvelles technologies sont utilisées et les données qu'elles collectent ».

Mais comment s’est passé le pilote du K5 ? Eh bien, K5 a patrouillé la station de métro Times Square pendant deux mois, puis a été stocké dans un entrepôt de la ville fin 2023 – même si New York payait Knightscope pour un contrat de 6 mois.

Chiens policiers robots

En parlant de robotique, K5 n'était pas la première fois que New York expérimentait la technologie pour le maintien de l'ordre.

En 2021, le NYPD a annulé un contrat à près de six chiffres avec la société de robotique Boston Dynamics pour la police robotique « Digidogs » après un tollé général contre cette technologie. Le maire de l'époque, Bill de Blasio, était d'accord avec cette décision, qualifiant les chiens robots de « effrayants » et d'« aliénants ».

Le tweet a peut-être été supprimé

À l'époque, Indigo Buzz avait publié un rapport détaillant la procédure d'arrêt d'urgence pour éteindre le chien robot en cas de scénario où il devrait être déployé.

Cependant, il semble que le maire Adams ne partage pas les sentiments de son prédécesseur de Blasio sur le Digidog. L'année dernière, le maire Adams a annoncé que la police de New York ramènerait les chiens robots policiers et que la ville avait acquis deux modèles « Spot » pour 75 000 $ chacun.

Les groupes de défense des droits civiques et les défenseurs de la vie privée ont partagé les mêmes préoccupations concernant les chiens robots qu'à propos du K5.

Détecteurs d'armes du métro

Le dernier exemple de la dépendance douteuse du maire Adams à l'égard d'une technologie nouvelle et non éprouvée se présente sous la forme de l'initiative récemment annoncée visant à utiliser des détecteurs d'armes dans les stations de métro.

Cette semaine, le maire Adams a annoncé qu'il déploierait des détecteurs de métaux alimentés par l'IA, capables de rechercher des armes. Ces scanners sont créés par une société basée dans le Massachusetts appelée Evolv.

Le tweet a peut-être été supprimé

Ces appareils constituent un choix intéressant pour le métro de New York, car le PDG d'Evolv lui-même a déclaré plus tôt ce mois-ci, avant l'annonce du maire, que ces scanners ne fonctionneraient pas bien dans le métro.

Lors d'un appel aux investisseurs, Peter George, PDG d'Evolv, a été spécifiquement interrogé sur l'utilisation de ces scanners dans les stations de métro de New York, selon un rapport du New York Daily News.

« Les métros en particulier ne sont pas un endroit que nous pensons être un bon cas d'utilisation pour nous », a déclaré le PDG d'Evolv. « Tant pour le (concept d'exploitation), que pour le fait d'être sous terre et d'interférence avec les chemins de fer, (les métros ne sont) pas un grand cas d'utilisation. »

En outre, Evolv a récemment été poursuivie en justice par ses actionnaires pour avoir surestimé l'efficacité de sa technologie de numérisation. La SEC a également lancé une enquête sur l'entreprise le mois dernier. De plus, la FTC étudie Evolv en raison de ses pratiques marketing. Et la société a été contrainte de retirer ses affirmations selon lesquelles elle testerait sa technologie au Royaume-Uni.

Autres erreurs apparentes dans le jugement technique

Le maire Adams a également pris d’autres paris risqués, comme avec la crypto-monnaie. Il a été un ardent défenseur de la technologie. Adams a converti ses premiers chèques de paie de maire en crypto-monnaie, a vanté la façon dont il examinerait la technologie blockchain comme solution aux problèmes de la ville, et a même dîné avec le fondateur et PDG de FTX, Sam Bankman-Fried.

Même si le portefeuille de crypto-monnaie du maire Adams est peut-être en hausse maintenant, en supposant qu'il conserve ses avoirs, tout électeur en difficulté qui suivrait son exemple et aurait besoin de vendre au cours de « l'hiver crypto » de l'année dernière serait en forte baisse. Quant à Sam Bankman-Fried, le patron de FTX vient d'être condamné à 25 ans de prison fédérale pour complot et fraude liés à son échange cryptographique, aujourd'hui en échec.

Comme le montrent ces exemples, le maire Adams s'est appuyé à plusieurs reprises sur une technologie non éprouvée, parfois risquée, pour résoudre les problèmes de la ville. À maintes reprises, ces programmes financés par les contribuables n’ont pas fonctionné, et les 8 millions d’habitants de la ville doivent en assumer les conséquences.

Indigo Buzz a contacté le bureau du maire Adams pour obtenir ses commentaires, mais n'a pas immédiatement reçu de réponse. Nous mettrons à jour si nous recevons une réponse.