最近のガートナーの調査によると、顧客の大多数は「AI を嫌っている」ことがわかりました。 64%が、企業がAIを導入しない方が良いと回答 顧客体験にAIが組み込まれています。顧客はAIと不正確な情報（42％）、データセキュリティ（34％）、偏見や不平等（25％）についても懸念しています。
倫理的な AI は、組織が革新的で信頼できるユーザー エクスペリエンスを生み出すのに役立ちます。これにより、ブランドが保護され、競争力を維持し、顧客との関係を強化できるようになります。そして、倫理的な AI は WellPower のストーリーの一部です。
問題
メンタルヘルスの分野では、問題を抱えるすべての人を助けるセラピストが不足しています。コロラド州のウェルパワーなどのコミュニティメンタルヘルスセンターは、助けを必要とする最も弱い人々の一部にサービスを提供しています。
サービスを受ける人々の複雑なニーズのため、WellPower の臨床医は、個人開業のセラピストよりも複雑な文書化規則に直面しています。これらの追加規則により管理上の負担が生じ、本来臨床ケアに費やされるはずだった時間が奪われてしまいます。
WellPower は、テクノロジーがメンタルヘルスの労働力増強にどのように役立つかを検討していました。
プロバイダー組織は、AIを扱うIliff Innovation Labに依頼し、医療ITによって人々がより簡単に医療を受けられるようになる方法を探りました。 遠隔医療などを通じて; 忠実度の高いエビデンスに基づく実践と遠隔治療モニタリングを促進することで、人々がより迅速に治療を進めることができるようになること。そして、WellPower がセラピストによる高品質で正確な文書作成を促進し、ケアの提供により多くの集中力を発揮できるようにすることで、管理上の負担を軽減できるようになること。
「適切に使用すれば、臨床文書は特に行動医療の分野で AI 導入の有望な分野となります」と WellPower の CIO 兼副社長であるウェス・ウィリアムズ氏は語ります。「大規模な言語モデルは大量の情報を要約するのに特に適していることが証明されています。」
「典型的な 45 分間の心理療法セッションでは、サービスを文書化するために要約すべき情報が大量にあります」と、彼は続けた。「スタッフは各サービスの文書化を完了するために 10 分以上を費やすことが多く、本来なら臨床ケアの提供に費やせるはずの時間が、合計で何時間もかかってしまいます。」
提案
ウェルパワーの健康の公平性に対する取り組みは、テクノロジーの導入に取り組む方法の原動力となっており、その使命を継続するにはイリフとの協力が不可欠だとウィリアムズ氏は語った。
「AIツールは往々にしてブラックボックスで、意思決定の仕方が隠されており、偏見を永続させてしまう可能性があり、それが私たちがサービスを提供する人々が直面する医療格差につながっています」と同氏は説明した。「これは私たちを窮地に立たせます。なぜなら、これらの新しいツールを使用しないと、最も必要としている人々にその効率性を提供しないことになりますが、偏見を評価せずに導入すると、AIシステムに過去の医療の偏見が組み込まれていた場合、格差を拡大させる可能性があるからです。」
「私たちは、 受動的なリスニングツールとしてのAI 「遠隔医療と対面の両方の治療セッションに参加し、一種のデジタル筆記者として機能し、臨床医が確認して承認するための草稿メモを作成できる」と彼は付け加えた。「ただし、正確で有用かつ偏りのない治療セッションの要約を作成するために、デジタル筆記者が信頼できることを確認する必要があった」
行動健康データは、プライバシーとセキュリティの観点から最も機密性の高いデータの一つであり、人々が安心して必要な支援を求めることができるようにするためには、こうした保護が必要であると彼は続けた。このため、ウェルパワーがあらゆる新しいシステム、特にAIベースのシステムを徹底的に検証することが非常に重要だと彼は述べた。
結果
AI デジタル スクライブを実装するために、WellPower は、サービスを受ける人々のプライバシーや安全が侵害されないことを確認する必要がありました。
「多くのセラピストは、こうした正当な懸念を理由に、当初は新システムを試すのをためらっていました」とウェルパワーのイノベーション担当ディレクター、アリレス・アルモン氏は語る。「私たちはイリフのチームと協力し、デジタル・スクライブがプライバシーを第一に考え、倫理的に構築されていることを確認しました。」
「例えば、このシステムは治療セッションを録音するのではなく、会話をその場でコード化します」と彼女は続けた。「つまり、セッションの最後に保存されるのは、セッション中に取り上げられたトピックに関するメタデータだけです。Iliff のチームからの洞察により、患者のプライバシーを確保しながら、治療にもっと時間をかけることができました。」
の応用 文字起こしをサポートするAI支援プラットフォーム 進捗記録の草稿を作成することで、スタッフとウェルパワーがサービスを提供する人々の両方の治療体験が大幅に向上したと彼女は付け加えた。
「Eleos システムを導入して以来、WellPower ではスタッフの進捗記録作成能力が大幅に向上しました」と Almon 氏は報告しています。「外来セラピストの 4 人に 3 人がこのシステムを使用しています。」
「このグループでは、文書作成にかかる平均時間が 75% 短縮され、文書作成にかかる総時間は 60% 短縮されました (メモ作成時間が 10 分から 4 分に短縮)」と彼女は言います。「当社のセラピストは Eleos との関わりに興奮しており、Eleos の経験から WellPower を離れるかどうか二度考えると述べるセラピストもいます。」
他の人へのアドバイス
人工知能は医療ITにとって新しくて刺激的な事業だが、SFやメディアの誇大宣伝、そしてその能力の現実によって定義される独自の負担を伴うとアルモン氏は指摘した。
「組織が従業員にAIを教育し、定義することが重要だ」と彼女はアドバイスした。「AIがどのように使用されるのか、従業員とその顧客を保護するためにどのようなプロセスとポリシーが導入されるのかを説明してください。AIは完璧ではなく、今後も進化し続けるでしょう。」
「可能であれば、AI 対応ツールの導入を開始する前に、AI に関する理解度と AI に対する従業員の感情を把握してください」と彼女は続けた。「Iliff の Trust AI フレームワークのようなプログラムと提携することで、倫理的なテクノロジーの選択に役立つだけでなく、AI 対応プラットフォームによって発生する可能性のある害について組織が検討済みであることが伝わります。」
それは結果そのものよりも重要だと彼女は付け加えた。
「最後に、スタッフに、人工知能に取って代わられることはないと安心させてください」と彼女は結論づけた。「人間関係は、個人の治癒において最も重要な関係です。人工知能は、人間の役割を支援するために存在し、補助技術です。AIはサポートや支援はできますが、治療上のつながりに取って代わることは決してありません。」
LinkedIn で Bill の HIT 記事をフォローしてください: ビル・シウィッキ
彼にメールを送る: お問い合わせ
Healthcare IT News は HIMSS Media が発行する出版物です。