MyCity が虚偽、不正確、誤解を招く情報を提供している可能性があるとの報道に対し、ニューヨーク市のエリック・アダムス市長は、MyCity を擁護する立場を表明した。 知らない人のために説明すると、ニューヨーク市政府は最近、ビジネスオーナーの質問を支援する MyCity AI チャットボットを導入しました。
ニューヨーク市長、誤解を招く指示の告発から物議を醸すAIチャットボットを擁護
情報とガイダンスへの継続的なアクセスを必要とするビジネス オーナーを支援することを目的としています。 しかし、マークアップ社が地元通信社ドキュメンテッド社とザ・シティ社の協力を得て行った調査では、誤った法的アドバイスを行っていた事例が多数判明した。
たとえば、ボットは、家主は収入に基づいてテナントを差別することができ、雇用主はサービスプロバイダーからチップの一部を徴収できると誤って主張しました。 どちらの行為もニューヨークでは違法です。
Microsoft の Azure AI 大きな言語モデルによって駆動される他の AI モデルと同様、MyCity は不正確な情報や誤解を招く情報を提供する傾向があります。 したがって、アダムズ市長は、「一部の領域では機能が停止している」とツールの欠陥を認めたが、その全体的な目的は擁護した。
同氏は、本質的に、この種のテクノロジーは、問題とその解決策を浮き彫りにするために、現実の環境でその存在を証明する必要があると述べた。 しかし、さらなる調査により、ニューヨーク州法に違反する「企業は現金支払いを受け付けなくなった」などの虚偽の主張を続けたため、この試みは失敗に終わったことが判明した。
MyCity の AI は効果がないと判明する可能性があるため、弁護士との対話がさらに必要になる
ニューヨーク・ホスピタリティ・アライアンスのディレクターを務めるアンドリュー・リギー氏は、正確さを強調しながらAIを活用したテクノロジーを利用するという市の試みを賞賛した。 リギー氏は、こうしたボットの欠陥のある推奨事項に従うと、その目的が果たせなくなり、弁護士とのさらなる対話が必要になる可能性があると主張した。
この論争のため、MyCity チャットボットには、応答が信頼できないか不完全である可能性があることをユーザーに警告する免責事項が含まれるようになりました。 したがって、法的または職業上の目的でそれらに依存すべきではありません。
この事件は、公共サービスに人工知能を導入することがいかに難しいかを示すとともに、法的枠組みに基づいた精度と信頼性の必要性を浮き彫りにしました。 MyCity チャットボットの改善に向けた取り組みが続けられている中、さまざまな関係者が対処する必要がある問題を探し続けています。
1712355101
#ニューヨーク市長不適切なアドバイスをしたとして告発されたAIチャットボットを擁護
2024-04-05 21:13:05