マムダニ、企業に法律違反を指示するニューヨーク市の AI チャットボットを殺害へ – The Markup

現在 CalMatters の一部となっている The Markup は、調査報告、データ分析、ソフトウェア エンジニアリングを利用して、公共の利益に役立つテクノロジーに挑戦しています。に登録する ホルン、ストーリーやツールをあなたの受信箱に直接お届けするニュースレターです。

この記事は との共同レポートです 都市、ニューヨークの人々にサービスを提供する非営利のニュースルームです。ニュースレターに登録して、 スクープ。

で 今週の記者会見 ニューヨーク市の120億ドルの予算不足について、ゾーラン・マムダニ市長は「節約のために追求するさまざまなこと」の1つとして、前政権の人工知能チャットボットに焦点を当てた。

2023 年の秋にエリック・アダムス政権によってリリースされたチャットボットは、ビジネスオーナーが市の規則や規制を確認できるアクセス可能な方法を提供することを目的としていました。しかし、The MarkupとTHE CITYが最初に文書化したように、このボットは、従った場合、従業員のチップの一部を受け取るなど、企業による違法行為につながる可能性のある回答を提供しました。

市長の広報担当者ドラ・ペケック氏はテキストメッセージで、新政権がチャットボットを廃止する計画であることを認めた。彼女は、マムダニ移行チームのメンバーがボットに関する報告を見た、と述べた。 マークアップ そして 都市 そして資金を節約できる場所として市長に提案しました。

記者会見では、 敵はアダムスを非難した 予算不足については「毒入りの聖杯」を渡されたと述べた。赤字を解消するために富裕層や企業への増税を行い、市の予算の「内部」で潜在的な節約を検討すると述べた。

何を削減するのか記者団に問われたとき、同氏はチャットボットを挙げた。

「前政権は機能的に使用できないAIチャットボットを持っていた」とマムダニ氏は語った。 「政権には約50万ドルの費用がかかった。それ自体はこの種の溝を埋めることができるものではないが、これはこれらのプログラムの実際のコストを説明することを拒否しながら資金がどのように使われてきたかを示すものである。」

このボットは Microsoft のクラウド コンピューティング プラットフォームを使用して構築され、MyCity と呼ばれるニューヨークのデジタル サービスの野心的な全面見直しの一環でした。このプロジェクトは政府へのアクセスを合理化することを目的としていましたが、依存しているとして批判されました 外部請負業者について。

チャットボットの維持にどれくらいの費用がかかるかは明らかではありませんでした。ボットの基礎を構築するだけです 報道によると60万ドル近くかかった、マムダニが提供した数字に近い。ペケック氏は、ボットを削除する日付はまだ決まっていないと述べた。

2024年のThe MarkupとTHE CITYによるテストでは、アダムス政権の約束にもかかわらず、チャットボットはたとえ一か八かの話題であっても、訪問者に不正確で潜在的に有害な情報を自信を持って提供することが判明した。

たとえば、住宅政策について尋ねられたとき、ボットは、家主が第 8 条のバウチャーを持つテナントを差別する可能性があると示唆しました。事業主向けのリソースであるにもかかわらず、ボットは最低賃金を知らず、2020年に反対の市法が制定されているにもかかわらず、現金での支払いを拒否しても問題ないとユーザーに伝えました。

The Markup and THE CITY の最初のレポートが公開された後、読者はボットに時折茶番的な質問をし続けましたが、ボットは適切に答えることができませんでした。アダムズ政権 ボットを擁護した、時間の経過とともに改善されるだろうと述べています。

アダムス氏は記者会見で「われわれは問題が何なのかを特定し、それを修正し、世界最高のチャットボットシステムを実現するつもりだ」と述べた。 「人々はニューヨーク市で私たちがやっていることを見に来るでしょう。」

市の管理者はすぐにボットに免責事項を追加し、ユーザーに「その応答を法的または専門的なアドバイスとして使用しない」ようアドバイスした。また、ボットの回答の一部も改善されましたが、ツールが回答できる質問の種類も制限されたようです。

現在、ボットは訪問者に「ニューヨーク市政府にのみ質問する」ようアドバイスし、「回答によって不正確または不完全なコンテンツが生成される場合がある」と警告している。訪問者は、ボットを使用する前に、ボットの制限を受け入れることに同意する必要があります。