より強力な連邦規制がない場合、一部の州が始まっています メンタルヘルスのアドバイスのために、より多くの人々が人工知能に頼るにつれて、AIの「治療」を提供するアプリを規制します。
しかし、今年はすべて可決された法律は、AIソフトウェア開発の急速に変化する風景に完全に対処しないでください。また、アプリ開発者、政策立案者、メンタルヘルスの支持者は、州法の結果として生じるパッチワークは、ユーザーを保護したり、有害なテクノロジーの作成者に説明責任を持たせるのに十分ではないと言います。
メンタルヘルスチャットボットアプリEarkickのCEO兼共同設立者であるKarin Andrea Stephan氏は、次のように述べています。
州法はさまざまなアプローチを採用しています。イリノイ州とネバダ州は、メンタルヘルスを治療するためにAIの使用を禁止しています。ユタは、ユーザーの健康情報を保護し、チャットボットが人間ではないことを明確に開示することを要求するなど、セラピーチャットボットに一定の制限を設けました。ペンシルベニア州、ニュージャージー州、カリフォルニア州も、AI療法を規制する方法を検討しています。
ユーザーへの影響はさまざまです。一部のアプリは、禁止された州でのアクセスをブロックしています。他の人は、彼らがより法的な明確さを待っているので、彼らが変更を加えていないと言います。
また、多くの法律は、ChatGptのような一般的なチャットボットをカバーしていません。ChatGptは、治療のために明示的に販売されていませんが、そのために数え切れないほどの人々が使用しています。これらのボットは、ユーザーが現実を握りしめたり、彼らと交流した後に自分の命を奪ったという恐ろしい事例で訴訟を引き付けました。
アメリカ心理学会のヘルスケアイノベーションを監督するVaile Wrightは、アプリが必要性を満たす可能性があることに同意し、メンタルヘルスプロバイダーの全国的な不足、ケアのコストが高く、被保険者患者の不均一なアクセスに注目しました。
科学に根ざし、専門家の意見で作成され、人間によって監視されるメンタルヘルスチャットボットは、景観を変える可能性があるとライトは言いました。
「これは、危機に陥る前に人々を助けるものかもしれません」と彼女は言いました。 「それは現在、商業市場にいるものではありません。」
そのため、連邦政府の規制と監視が必要であると彼女は言った。
今月初めに、連邦取引委員会は、InstagramとFacebook、Google、ChatGpt、Grok（Xのチャットボット）、Character.ai、Snapchatの親会社を含む7つのAIチャットボット企業への問い合わせを開始すると発表しました。また、食品医薬品局は、11月6日に諮問委員会を招集して、生成的なAI対応メンタルヘルスデバイスをレビューします。
連邦政府機関は、チャットボットがどのように販売されているかについての制限を検討し、中毒性の慣行を制限し、医療提供者ではないというユーザーに開示を要求し、企業が自殺念慮を追跡および報告することを要求し、企業が悪い慣行を報告する人々に法的保護を提供することを要求することができます、とライトは言いました。
「コンパニオンアプリ」から「AIセラピスト」、「メンタルウェルネス」アプリまで、メンタルヘルスケアにおけるAIの使用はさまざまで定義するのが難しく、法律を書くことはもちろんです。
それはさまざまな規制アプローチにつながりました。たとえば、一部の州では、友情のためだけに設計されているが、メンタルヘルスケアに挑戦しないでください。イリノイ州とネバダ州の法律は、メンタルヘルス治療を完全に提供し、イリノイ州で最大10,000ドル、ネバダ州で15,000ドルを脅かすと主張する製品を禁止しています。
しかし、単一のアプリでさえ分類するのが難しい場合があります。
EarkickのStephanは、たとえば、イリノイ州の法律について「非常に濁っている」多くのことがまだあると言いました。
ステファンと彼女のチームは当初、セラピストの漫画パンダのように見えるチャットボットに電話をかけ続けました。しかし、ユーザーがレビューで単語を使用し始めたとき、アプリが検索に表示されるように用語を受け入れました。
先週、彼らは再び治療と医学用語を使用して後退しました。 EarkickのWebサイトは、チャットボットを「あなたの精神的健康の旅をサポートするためのあなたの共感的なAIカウンセラー」と説明しましたが、今では「セルフケアのためのチャットボット」です。
それでも、「私たちは診断していません」とステファンは主張しました。
ユーザーは、「パニックボタン」を設定して、危機にさらされている場合は信頼できる愛する人を呼び出します。チャットボットは、メンタルヘルスが悪化した場合にセラピストを探すためにユーザーを「ナッジ」します。しかし、Stephan氏によると、自殺予防アプリになるように設計されたものではなく、誰かが自傷行為の考えについてボットに言った場合、警察は呼ばれません。
ステファンは、人々が批判的な目でAIを見ていることに満足しているが、国家がイノベーションに追いつく能力を心配していると言いました。
「すべてが進化している速度は大規模です」と彼女は言いました。
他のアプリはすぐにアクセスをブロックしました。イリノイ州のユーザーがAIセラピーアプリASHをダウンロードすると、メッセージは議員に電子メールを送信するように促し、「誤った立法」はASHのようなアプリを禁止したと主張しています。
ASHのスポークスマンは、インタビューの複数のリクエストに応答しませんでした。
イリノイ州財務および専門規制局の秘書であるマリオ・トレト・ジュニアは、最終的には、認可されたセラピストが唯一の療法を行っていることを確認することであると述べました。
「セラピーは単語交換以上のものです」とトレトは言いました。 「共感が必要であり、臨床的判断が必要であり、倫理的責任が必要であり、AIは今すぐに本当に複製することはできません。」
3月、ダートマス大学に拠点を置くチームは、メンタルヘルス治療のための生成AIチャットボットの最初の既知の無作為化臨床試験を発表しました。
目標は、Therabotと呼ばれるチャットボットを持ち、不安、うつ病、または摂食障害と診断された人々を治療することでした。エビデンスに基づいた反応を説明するために、チームによって書かれたビネットと転写産物で訓練されました。
この研究では、ユーザーはセラピストと同様にTherabotを評価しており、それを使用していない人と比較して8週間後に症状が有意に低かったことがわかりました。すべての相互作用は、チャットボットの応答が有害であるか、証拠に基づいていない場合に介入した人間によって監視されました。
ラボが研究を主導している臨床心理学者であるニコラス・ジェイコブソンは、結果が早期の約束を示したが、テラボットが多数の人々に働くかどうかを示すためにはより大きな研究が必要であると述べた。
「スペースは非常に劇的に新しいので、フィールドは今起こっているはるかに慎重に進む必要があると思います」と彼は言いました。
多くのAIアプリはエンゲージメントのために最適化されており、セラピストのように人々の考えに挑戦するのではなく、ユーザーが言うすべてをサポートするように構築されています。多くの人が交際と治療のラインを歩き、親密さの境界セラピストは倫理的にそうではないでしょう。
Therabotのチームは、これらの問題を避けようとしました。
アプリはまだテスト中であり、広く利用できません。しかし、ジェイコブソンは、開発者が慎重なアプローチをとるために、厳格な禁止が何を意味するかを心配しています。彼は、イリノイ州には、アプリが安全で効果的であるという証拠を提供する明確な経路がないと述べた。
「彼らは人々を守りたいと思っていますが、今の伝統的なシステムは本当に失敗しています」と彼は言いました。 「それで、現状に固執しようとすることは、本当にやるべきことではありません。」
規制当局と法律の支持者は、彼らが変更に開放されていると言います。しかし、今日のチャットボットは、メンタルヘルスプロバイダーの不足の解決策ではない、とカイル・ヒルマンは言った。
「悲しいと感じているすべての人がセラピストを必要とするわけではない」と彼は言った。しかし、真のメンタルヘルスの問題や自殺の考えを持つ人々にとって、「労働力の不足があることを知っているが、ここにボットがあることを知っている」と言って、それはそのような特権的な立場です。」
（苦しんでいる人や自殺の考えを持っている人は、ここでヘルプライン番号を呼び出すことにより、助けとカウンセリングを求めることが奨励されています）