臨床的に適切なメンタルヘルス評価を導き出す AI が、動的プロンプト エンジニアリングによって大幅に向上

今日のコラムでは、生成 AI と大規模言語モデル (LLM) の機能を強化して、より正確なメンタルヘルス評価を提供する有望なアプローチを検討します。

取引はこれです。普及している AI による慎重かつ適切なメンタルヘルス評価を行うことは重要な課題です。何百万もの人々が ChatGPT、Claude、Gemini、Grok などの LLM を使用しており、社会の期待は、誰かが精神的健康状態に陥っているかどうかを AI が適切に判断することです。

残念ながら、大手 LLM はこの点であまり優れた成果を上げていない傾向があります。それは良くありません。 AI は、誰かが精神的健康障害に巻き込まれていることを検出できない場合があります。 AI は、深刻なメンタルヘルスの問題を重要ではないものとして誤ってラベル付けする可能性があります。 LLM が AI を使用して人のメンタルヘルスを評価する際に信頼性が高く正確な仕事をしていないと、あらゆる種類の問題が発生します。

これらの欠点を克服しようとする興味深い研究研究により、動的プロンプトエンジニアリングと加重変圧器アーキテクチャの使用を必要とする新しい方法が特定され、実験されました。目標は、検出可能な精神的健康状態の診断とラベル付けにおける LLM を大幅に改善することです。これは、臨時のメンタルヘルス評価を大規模に実行する際に、AI が正しいことを行い、間違ったことを避けていることを確認するために非常に必要とされる種類の作業です。

それについて話しましょう。

AI のブレークスルーに関するこの分析は、影響力のある AI のさまざまな複雑性の特定と説明を含む、最新の AI に関する私が継続的に行っているフォーブス コラムの一部です (「 ここのリンク）。

AI とメンタルヘルス療法

簡単な背景として、私はメンタルヘルスに関するアドバイスを生成し、AI 主導の治療を実行する現代の AI の出現に関する無数の側面を広範囲にカバーし、分析してきました。この AI の利用の増加は、主に生成 AI の進化と普及によって促進されています。この進化するトピックに関して私が投稿したコラムのいくつかの簡単な概要については、を参照してください。 ここのリンクこのテーマに関して私が投稿した 100 以上のコラム投稿のうち、約 40 件を簡単に要約しています。

これが急速に発展している分野であり、大きな利点があることにはほとんど疑いの余地はありませんが、同時に、残念なことに、これらの取り組みには隠れたリスクや明らかな落とし穴も潜んでいます。私はこれらの差し迫った問題について頻繁に発言しており、昨年の CBS のエピソードへの出演もその一環です。 60分、 見る ここのリンク。

人々はメンタルヘルスに関するアドバイスに AI を使用しています

現在、主要な LLM の最も一般的な用途は、メンタルヘルスに関する指導を受けることです。私の議論を参照してください。 ここのリンク。これは簡単に実行でき、非常に簡単に、低コストまたは無料で、24 時間 365 日どこでも実行できます。人はAIにログインし、AI主導の対話をするだけ。

AI が容易に常軌を逸してしまったり、不適切な、あるいは著しく不適切なメンタルヘルスに関するアドバイスを提供してしまう可能性があるのではないかという、厳粛な懸念があります。今年 8 月の大きなバナーの見出しには、認知的アドバイスの提供に関して AI 保護策が欠如しているとして OpenAI に対して起こされた訴訟が報じられました。 AIメーカーはAIの安全対策を段階的に導入していると主張しているが、自傷行為につながる可能性のある妄想の共創をユーザーが知らず知らずのうちに手助けするなど、AIが不都合な行為を行うことによるマイナス面のリスクは依然として多く存在する。

OpenAI 訴訟の詳細と、AI が人間の妄想的思考をどのように助長するかについては、私の分析を参照してください。 ここのリンク。 私は、最終的にはすべての主要な AI メーカーが、堅牢な AI 保護手段の不足のために薪小屋に連れて行かれるだろうと熱心に予測してきました。訴訟も山ほど起きている。さらに、精神医療における AI に関する新しい法律が制定されています (たとえば、イリノイ州法に関する私の説明を参照してください。 ここのリンク、ネバダ州法 ここのリンク、およびユタ州法 ここのリンク）。

メンタルヘルスのための AI を改善するための構築

AI コミュニティの多くは、メンタルヘルスの領域で素晴らしい仕事をする AI への道を構築できることを期待しています。その場合、社会はこの機密性の高い用途に LLM を安心して使用することになるでしょう。十分な AI 保護手段を考案し、ケアの質の指標において人間のセラピストと同等、さらにはそれを超える LLM を作成するために、熱心な研究が行われています (私の記事を参照してください) ここのリンク）。

重要な焦点の 1 つは、メンタルヘルスの問題が関係している可能性があることを確認する最高の仕事を実行する AI の構築を必要とします。現時点では、誤検知、つまり、実際にはそうではないのに、誰かが明らかな精神的健康状態に陥っていると AI が誤って評価するという誤検知が大量に発生しています。偽陰性も多すぎます。偽陰性とは、確認できたはずの精神的健康上の問題を AI が検出できなかった場合です。

私は以前、精神障害に関する古典的な DSM-5 ガイドブックを使用して、驚くべきミニ実験を行ったことがあります (私の分析は次のサイトで参照できます)。 ここのリンク）。私の非公式な分析では、ChatGPT が DSM-5 で示された症状に基づいて精神的健康状態を適切に判断できるかどうかを確認したいと思いました。概して、ChatGPT は、会話があからさまに明らかな方法で症状を明らかにした場合にのみ成功するようでした。

この結果の 1 つの解釈は、おそらく AI メーカーによって誤検知の可能性を最小限に抑えるために AI が調整されたのではないかというものです。 AI 作成者は、高い基準に達した場合に限り、AI が精神的健康状態の存在を示唆することを示すパラメーターを設定することを選択できます。これにより、誤検知が減少します。残念ながら、偽陰性（検出できたはずなのに検出されなかった精神的健康状態）が増加するか、最大化する可能性もあります。

AI メーカーは現在、板挟みになっています。偽陽性を最小限に抑えることは賢明ですが、そうすることで偽陰性が増加または最大化する可能性がありますか?もちろん、両方の要因を最小限に抑えることが望ましいでしょう。それが望ましい目標です。

それがどのように達成されるかを見てみましょう。

評価向上に向けた研究

Akshi Kumar、Aditi Sharma、Saurabh Raj Sangwan による「DynaMentA: ソーシャル メディア データを使用した精神的健康分類のための動的プロンプト エンジニアリングと加重トランスフォーマー アーキテクチャ」と題された注目すべき研究では、次のように述べられています。 計算社会システムに関するIEEEトランザクション、2025 年 6 月 4 日、この領域における AI の強化に関して次のような重要な点が述べられました (抜粋)。

• 「メンタルヘルスの分類は本質的に困難であり、複雑な感情的および言語的パターンを捉えるモデルが必要です。」
• 「ChatGPT、Mental-Alpaca、MentaLLaMA などの大規模言語モデル (LLM) は有望ですが、臨床的に根拠のあるデータに基づいてトレーニングされておらず、微妙な心理的手がかりを見落とすことがよくあります。」
• 「彼らの予測は感情の激しさを過度に強調する傾向があり、正確なメンタルヘルス評価に重要な状況に関連した指標を捉えることができません。」
• 「この論文では、これらの課題に対処するために、BioGPT と DeBERTa の長所を統合した新しい二層トランスフォーマー フレームワークである DynaMentA (Dynamic Prompt Engineering and Weighted Transformer Architecture) を紹介します。」
• 「動的なプロンプト エンジニアリングと重み付けされたアンサンブル メカニズムを通じて、DynaMentA は多様な感情的および言語的コンテキストに適応し、バイナリ タスクとマルチクラス タスクの両方に対して堅牢な予測を提供します。」

上で述べたように、精神的健康状態の潜在的な存在を診断または評価する重要な要素には、心理的手がかりを利用することが含まれます。多くの場合、一般的な従来のチャットボットは、精神的健康状態が存在する可能性が高いことを示す明確な手がかりとなる可能性のある状況環境をターゲットにしていません。

研究者たちは、文脈性のジレンマを克服しようと努めました。

仕組み

高度 30,000 フィートのレベルで、この予備調査研究が考案し、テストすることを選択したものは次のとおりです (具体的な詳細については、研究を参照してください)。

ユーザーがプロンプトを入力すると、LLM は動的なプロンプト エンジニアリングを採用してプロンプトを改良します (プロンプト エンジニアリング戦略とベスト プラクティスの詳細については、次の URL で私の広範な記事を参照してください)。 ここのリンク）。プロンプトは、文脈上の手がかりを強調することで豊かになります。たとえば、ユーザーが「絶望的な気分です」というプロンプトを入力した場合、AI は主指標と副指標を含む他の 2 つのコンポーネントを使用できます。これは、私たちの潜在的な精神状態に関連する、有用で構造化された表現を提供します。

精神的健康状態に関する 2 つの関連システム (BioGPT と DeBERTa) で構成されるこれらの豊富なソースからドメイン固有の文脈上の手がかりを抽出することで、より完全な文脈上の手がかりベクトルを作成できます。これは、関連する意味論的情報および構文情報をより深く取得することを目的としています。組み立てられた重み付けされたアンサンブルにより、より徹底的な評価が可能になります。このプロセスはしきい値に達するまで繰り返され、その後、最終的な分類が生成されます。

この独創的な方法が実装され、テストされました。テストでは、Dep-Severity、SDCNL、Dreaddit として知られる特別なセットに収集された Reddit の投稿が利用されました。これらのセットはそれぞれ、検出された精神的健康状態 (うつ病、自傷行為の可能性、不安など) に関して注釈またはラベルが付けられた数千の Reddit 投稿で構成されています。

テストが行われました。そして、他のいくつかの AI モデルと比較した場合、この新しいアプローチの結果は非常に有望なものでした。 DynaMentA 構成は、さまざまな指標にわたって他のベースライン モデルよりも優れたパフォーマンスを示しているようです。これには、この種の評価で ChatGPT を上回ることが含まれます。

建築上のイノベーションを考案する

引用されたアプローチは主に予備的な調査でした。私はこの特定のアプローチのさらなる進歩に注目していきます。特にこれを大規模にテストしてもらいたいと思っています。さらに、独立した第三者が同様の LLM 調整を試み、その結果を適宜共有することができれば有益です。

これが価値ある追求であるかどうかは、時間が経てば分かるだろう。

全体として、メンタルヘルスに関するアドバイスという尊敬されるタスクを実行できる生成 AI と LLM の作成を進めるには、継続的な多大な努力、イノベーション、創造性が必要です。この面での熱心な努力を称賛します。

私たちは正しい道を進んでいますか

非常に声高に懐疑論者や冷笑論者が、メンタルヘルスのために AI が十分に進歩するかどうかは非常に疑わしいということを知っておいてください。彼らの見解では、治療とメンタルヘルス指導は人間対人間のベースでのみ行うことができます。したがって、彼らは、どのような賢さ、策略、創意工夫が試みられたとしても、AI が私たちをそこに到達させる可能性を排除します。

その運命的で陰気な見方に対する私の反応は、ラルフ・ワルドー・エマーソンの言葉が最もよく表しています。「人生は驚きの連続であり、もしそれがなかったら、受け入れたり維持したりする価値はないでしょう。」私は、メンタルヘルスのための AI の進歩に関する心躍る驚きが今後も待っていると投票します。

乞うご期待。