「知っておく必要がある」とトークスペースCEOが警告

Talkspace は米国最大のオンライン治療プラットフォームの 1 つに成長し、推定 2 億人の米国市場をカバーしています。メンタルヘルス プラットフォームが成長するにつれて、トラウマ、うつ病、依存症、虐待、人間関係などのメンタルヘルスの問題や、思春期を含む人生のさまざまな段階で助けを必要としている人々に手を差し伸べる新しい方法も開拓してきました。

Talkspace は、十代の若者たちのメンタルヘルスのニーズに応えた経験により、全国的に重要性が高まっている問題、つまりリスクにさらされている十代の若者たちにメンタルヘルスのサポートを提供するように設計されていない人工知能の大規模言語モデルの使用を理解する上で独自の立場にあり、それが悲劇的な結果をもたらしています。

「これは非常に大きな問題だ」とトークスペースのジョン・コーエン最高経営責任者（CEO）は火曜日にニューヨーク市で開催されたCNBC労働力執行評議会サミットで述べた。

Talkspace は国内最大の 10 代のメンタルヘルス プログラムを運営しており、ニューヨーク市では 13 歳から 17 歳までの学生がそのサービスを無料で利用でき、ボルチモアとシアトルでも同様のプログラムを利用できます。仮想メンタルヘルス アプリは、非同期テキスト メッセージングと、何千人ものライセンスを持ったセラピストとのライブ ビデオ セッションの両方を提供します。

コーエン氏は「電話や携帯電話の使用禁止、その他すべてのものを使用しないことを強く信じている」としながらも、10代の若者にサービスを提供するには、会社は彼らがいる場所で彼らに対応する必要があると付け加えた。それは、「我々は彼らの電話で彼らと会っていることを意味する」と彼は言う。

Talkspace を使用している学生の 90% 以上が非同期メッセージング療法アプローチを使用しているのに対し、ビデオを使用している学生はわずか 30% (Talkspace ユーザー全体の 70% がテキストではなくビデオを選択しており、患者の年齢が上がるにつれてその割合は増加します)。

10代の若者たちがメンタルヘルスサービス用に認可されておらず、設計もされていないチャットボットに頼っている中、コーエン氏はCNBCのイベントで人事幹部らの聴衆に対し、「私たちはこの渦の真っ只中におり、文字通りメンタルヘルス治療を混乱させている。…想像を超えている…そしてその結果は悲惨だった」と述べ、最近の報道からの報告も含め、自傷行為や自殺による十代の若者たちの複数の入院を例に挙げた。 ニューヨークタイムズのポッドキャスト。

最近発表されたOpenAI ChatGPT AI に対する計画された変更 十代の自殺の原因とされ、家族から訴訟を起こされた後、その意図を次のように明らかにした。 ブログ投稿。

「私はすべてのグループに言います。このことを知らないなら、何が起こっているのか知る必要があります。知り合いやティーンエイジャーが会話をするためにこれらのLLMに参加するのを防ぐ必要があります」とコーエン氏は述べた。

同氏は、最新の大規模言語モデルがメンタルヘルス危機の状況向けに設計されていない点をいくつか強調しました。まず、彼らは継続的に関与するように設計されており、共感的である一方で、励まし続けるように設計されているため、精神的苦痛の場合には「間違ったことはできないという妄想や思考の道に陥る可能性がある」と同氏は述べた。

「約 4 か月前、誰かが ChatGPT に『私は本当に落ち込んでいて、もしかしたら人生を終わらせることを考えているので、橋から落ちようかと考えている』と言いました。すると ChatGPT は『ここにあなたの地域で最も大きな橋 10 つとその高さを示します』と言いました。」

AIエンジンは、十代の若者たちが遺書を書いたり、自傷行為の証拠を親に説明するのを思いとどまらせたり、縄の作り方を教えたりするのに役立った、とコーエン氏は述べた。コーエン氏によると、たとえAIが自傷行為をしようとする人々を支援するよりも賢明であり、直接の援助を拒否する場合でも、十代の若者たちは自殺に関する研究論文を書いているので情報が必要だと言うなど、簡単な回避策を見つけているという。

LLMは妄想に異議を唱えることができず、HIPAA保護も臨床監視も臨床オフランピングもなく、少なくとも今まではリアルタイムでリスクを特定することはほとんどできなかった、と同氏は述べた。

「一度ウサギの穴に落ちると、そこから抜け出すのは信じられないほど困難です」と彼は付け加えた。

Talkspace プラットフォームでは、AI エンジンにリスク アルゴリズムが組み込まれており、自殺リスクを検出し、人が自傷行為をする可能性がある場合に示唆する会話のコンテキストに基づいてセラピストにアラートを送信します。

コーエン氏によると、トークスペースがプラットフォーム上で4万人の十代の若者にメンタルヘルスサポートを提供してきたニューヨーク市では、2年間で自殺防止のための介入が500件行われ、自殺警報は4万件を超えたという。

コーエン氏はCNBCのイベントで、トークスペースが現在この問題に対処するAIエージェントツールを構築していると述べ、市場向けのソリューションは最短3カ月で準備が整うと予想し、それをHIPAA準拠の「安全な臨床モニタリングおよびオフランピング」ツールと説明した。しかし同氏は、依然としてテストモード、つまり「アルファモード」にあると強調した。

コーエン氏は人事担当幹部らを前に、これらの問題は企業と従業員に非常に関係があると指摘した。多くの労働者が毎日頭の中に浮かべている疑問は、「自分の十代の子供をどうすればいいのか？」だという。

コーエン氏は「彼らの仕事に影響が出ている」と述べ、すでに従業員の間で蔓延している不安、鬱、人間関係の問題をさらに悪化させていると付け加えた。

もちろん、Talkspace が開発中の新しいツールと同様に、AI にはメンタルヘルスの分野でも前向きな使用例があります。

イーサン・モリック氏はウォートンスクールのAI専門家で、 CNBCのイベントでも講演した、問題の一部は、これらの AI ラボが、毎週数十億人のユーザーがすぐにチャットボットに頼ることに対応する準備ができていないことであると述べました。しかしモリック氏は、メンタルヘルスにおけるAIの利用は孤独などの状況を軽減するため、場合によっては自殺リスクも軽減できるという証拠があると述べ、一方でAIがその逆、つまり精神病を増加させる可能性があることも明らかであると強調した。 「おそらくその両方を行っているのでしょう」と彼は言う。

Talkspace では、AI がどのようにメンタルヘルスの改善につながるかについての新たな証拠が得られています。患者の治療セッション後のフォローアップとして、パーソナライズされたポッドキャストを作成する AI を活用した「トークキャスト」機能の提供を開始しました。コーエン氏はポッドキャストについて、多かれ少なかれ「あなたの言ったことは聞きました。これらはあなたが提起した問題であり、次のセッションまでに私たちがやってほしいことです。」と述べたと説明した。

コーエン氏は、ゴルフのプレーを向上させるためなどの理由から、その新しい AI ツールのユーザーの一人です。

コーエン氏はCNBCのイベントで「ボールの上に立っているととても不安になると彼らに伝えた」と語った。 「AI によって生成されたポッドキャストを聞いていただければと思います。それは戻ってきてこう言います。『ジョン、あなたは一人ではありません。この 3 人のプロゴルファーはあなたと全く同じものを持っており、これが彼らが問題を解決した方法です。これらが指示であり、ボールの上に立つたびに練習してほしいことです。」私にとって、2分間で問題を解決できたのは奇跡的なポッドキャストでした」とコーエン氏は語った。

Talkspace ユーザー全体で、パーソナライズされたポッドキャスト ツールにより、2 回目から 3 回目の治療セッションでの患者エンゲージメントが 30% 増加したと同氏は付け加えました。

全米に約 6,000 人の認定セラピストを擁するこのメンタルヘルス会社は、共感とテクノロジーを組み合わせるという使命を拡大し続ける計画です。ほとんどのユーザーは無料で治療を受けることができ、保険適用範囲に応じて自己負担額はわずか 10 ドルです。 Talkspace は、従業員支援プログラム (EAP)、大手保険会社とのパートナーシップ、メディケイドを通じて、3 時間以内にユーザーと認定セラピストをマッチングし、24 時間以内にテキスト メッセージを送信できます。

「トークスペースは、ライブビデオに加えてテキストメッセージやメッセージング療法が実際に効果があることを証明することに全力を尽くした」とコーエン氏はCNBCのイベントで語った。