ニューヨーク上院の法案は、人工知能チャットボットがオンラインでアドバイスを提供する際に、弁護士、医師、セラピストなどの資格のある専門家を名乗ることを禁止する内容となっている。支持者らは、この措置の目的は、専門的な指導を求める消費者を誤解させ、企業が法的責任を問われる可能性のある方法で企業がAIツールを使用することを防ぐことだと主張している。
上院法案 S7263 は、チャットボットが実質的なアドバイスや情報を提供する際に、認可を受けた専門家になりすますことを禁止するものです。この法律は、人工知能システムが人間の相互作用をシミュレートし、州法に基づいて資格のある専門家が必要となる可能性のあるガイダンスを提供する状況を対象としています。
この法案の提案者であるニューヨーク州上院議員クリステン・ゴンザレス氏は、この提案は人工知能ツールを管理する既存の法律のギャップに対処することを目的としていると述べた。
「今日、大規模な言語モデルから、それが弁護士であること、資格のあるセラピストであることを伝え、それに応じて法的アドバイスや療法を提供することはできないと定めた法律はありません。これは非常に憂慮すべきことだと思います」とゴンザレス氏はロイターに語った。
法案の詳細によると、被害を受けたユーザーは経済的および非経済的損害を求めて民事訴訟を起こす可能性がある。この法律は、AI チャットボットのアドバイスを、無資格の個人が専門的な指導を提供する状況に喩えており、すでに責任を問われる可能性があります。
全国の議員が人工知能をどのように規制すべきかを議論する中、人工知能と消費者保護について懸念を表明している上院議員はゴンザレス氏だけではない。過去 2 年間、さまざまな業界の規制当局や議員が、AI テクノロジーがオンライン サービスや消費者向けツールでより広く使用されるようになるにつれて、AI システムをどのように管理すべきかについて疑問を提起してきました。
AI システムがオンライン サービス全体に拡大し続ける中、提案された法案はユーザーの保護を強化します。 AI チャットボットを自社のサービスに組み込んだプラットフォームは、ユーザーが「人間以外のチャットボット」と対話しているという包括的な声明に頼ってユーザーを責任から守ることはできません。
この法案は法律相談を提供するサービスに特に言及しているが、この措置は医師、セラピスト、精神医療従事者などの資格のある専門家が関与するサービスにも適用されることになる。
この法案はまた、人工知能ツールを使用するサービスに対して、それらのシステムによって生成された情報が不正確である可能性があることを「目立つように」開示することを義務付ける予定だ。
AI 業界の 2 つの主要な開発者である OpenAI と Anthropic は、人工知能テクノロジーの進歩とそれが企業や消費者に与える影響に関する公開ディスカッションや業界フォーラムに頻繁に参加してきました。会話型 AI システムがオンライン プラットフォーム全体でより広く使用されるようになるにつれ、議員や規制当局は、そのようなシステムが一般の人々とどのように対話するかを管理するために追加のルールが必要かどうかを検討することが増えています。
この法案は、立法過程の早い段階で議会のインターネットおよびテクノロジー委員会を通過した後、現在ニューヨーク上院の議場カレンダーに掲載されています。
#ニューヨーク上院法案AIチャットボットによる法的医療的アドバイスを禁止する