AIセラピストはイギリスのメンタルヘルスケアですでに広く利用されている。「目的は本当に補助することであり、代替することではない」

人工知能は、心理療法士がより迅速かつ的確な診断を下すのに役立つだろうか？ イギリスではそう考えられており、医療従事者と患者は AI プログラムを使用している。しかし、技術哲学者は「AI はあなたを理解していない」と警告している。

メンタルヘルスに悩む人々を助ける AI アプリは以前から存在しており、成功の度合いはさまざまです。しかし、イングランドの NHS は現在、人工知能を採用し、メンタルヘルスケアに大規模にその技術を導入しています。

診断と治療計画

そこでは、コンピュータ プログラム「Limbic」が心理療法士のサポートに使用されています。心理療法士が患者と話をする前から、このプログラムは診断を予測し、可能な治療計画を作成することができます。

Limbic は人工知能に基づいて動作します。このプログラムは大量のデータを使用してトレーニングされており、数十万人の患者とその診断からの情報が使用されているだけでなく、さまざまな文献研究も組み込まれています。

防水ではありません

「私たちの目標は、本当に支援することであり、代替することではない」と、このプログラムの背後にある新興企業の共同設立者、セバスチャン・デ・フリースは言う。「セラピストがより早く決断できるようにするにはどうしたらいいか？そして、その決断がより頻繁に正しいと保証するにはどうしたらいいか？」

デ・フリース氏は、プログラムが提供する診断がすべて正しいということはあり得ないことを認めている。AI システムは完全ではないが、彼によると、現在の作業方法も完全ではない。「セラピストも、診断や治療計画について必ずしも同意するわけではない。」

時間が足りない

また、特定の診断が見逃されていることもある、と彼は付け加える。「イングランドのNHSでは、うつ病や不安障害は過剰診断されているが、PTSDのような特定の不安障害は過少診断されている。」

デ・フリース氏によると、これは多くのセラピストがあまりに時間がないことの「直接的な結果」だ。それが、NHSがこのような新しい技術に投資している理由の一つだ。現在、Limbicはイングランドのメンタルヘルスクリニックのほぼ半数で使用されている。

チャットボットによる「セラピー」

患者はセラピストの補助に加えて、プログラム内のチャットボットを介して AI「セラピスト」とやり取りすることもできます。これは、実際のセラピストとのセッションの合間に患者をサポートすることを目的としています。

De Vries 氏によると、この機能は成功しているという。「Limbic で最初のセッションを受けた人は、より良い体験をしたため、その後のセッションに来る可能性がはるかに高くなります。また、セラピストが自分の問題をよりよく理解していると感じるからです。」

「AIはあなたを理解しません」

シャノン・ヴァラーはエディンバラ大学の教授であり、テクノロジー哲学者でもある。彼女は、このように人工知能が（精神）医療に利用されることに反対している。「限界があるにもかかわらず、AI システムが理解のあるセラピストとして登場するのは受け入れられないと思う。」

「こうしたシステムは患者を理解しておらず、単なる統計モデルに過ぎません」と彼女は強調する。「訓練を受けた医師なら決して犯さないような間違いを犯す可能性があります。それは危険なことです。」

成功への疑問

さらに、ヴァロール氏はLimbicの成功に疑問を呈している。このスタートアップ企業が提示する証拠は自社の研究に基づくものであり、技術哲学者によればそれは不可能だという。

彼女は、NHSがメンタルヘルスのような重要なものにこの技術を選んだ理由が理解できない。「その決定は医学的、臨床的証拠に基づくべきであり、根拠のない誇大宣伝や約束に基づくべきではない」

より厳しい監視？

ヴァロール氏は、これは脆弱な患者グループであることを強調する。したがって注意が必要だが、技術哲学者であるヴァロール氏はその逆のことが起きていると考えている。「こうした技術は、社会で最も脆弱なグループに対して初めて使用されることが多いのです。」

そのため彼女は、特に社会的弱者層に提供される「治療効果を主張する」AIアプリには、より厳格な監視が必要だと考えている。「客観的でない、あるいは間違った結果をもたらす大きなリスクがある」と、この技術哲学者は結論として警告している。