ラウンドテーブル: 医療機関が生成 AI を顕微鏡下に置く

ヘルステック: あなたの組織は現在、生成 AI をどのように使用していますか?

ロングハースト: 患者さんとのコミュニケーションにAIを活用しています。 カリフォルニア大学サンディエゴ校の研究者らは、 JAMA留学 この研究は、資格を持つ医師と看護師が平均して、患者の質問に対する AI の回答の方が人間の回答よりも質が高く、共感が高いと評価していることを示しています。 私自身も回答を確認しましたが、どれがチャットボットの回答でどれが医師からのものかは非常に明白でした。 チャットボットの回答は 3 つの段落を書き、医師は 3 つの文を書きます。

ジョンソン: 私たちは、臨床医が診察の記録に費やす時間を、音声からコンテンツを生成できるテクノロジーに置き換える方法を検討しています。 Epic と協力して、次のような方法も検討しています。 応答を自動的に生成できます 患者ポータルのメッセージに送信されます。 これらはすべて、今後 1 ～ 2 年以内に Epic の顧客のほとんどが利用できるようになる予定です。

発見する： 医療は AI の恩恵とリスクのバランスをどのように取ることができるでしょうか?

ヘルステック: AIが生成するコミュニケーションにおいて人間はどのような役割を果たすのでしょうか?

ゴスワミ: 日常生活の中で、すべてのメールに返信するのに時間がかかることは誰もが知っていますが、それが私たちにとって前向きな推進力となりました。 AI技術を採用。 生成 AI を使用すると、臨床医は少しの共感を組み込んだ、より包括的な回答を作成できます。 患者はただ検査結果を得るだけではありません。 また、プロバイダーが AI によって生成されたドラフトに基づいて更新された結果に伴う会話も取得します。

ロングハースト: 私たちの医師たちは、受信トレイの過負荷に悩まされています。 場合によっては、毎分メッセージを受信していることもあります。 生成 AI は、その問題を解決するためのメカニズムです。 AI が患者の質問に対する回答の草案を生成した後、 電子健康記録、医師が次のステップを決定します。 ボタンは 2 つあり、1 つは「下書きから開始」、もう 1 つは「空の返信を開始」です。 私たちは常に人間が関与していることを確認してきました。

ジョンソン: 私たちが予想できるのは、患者はこうした AI が生成したメッセージの方が読みやすい、あるいは安心できると感じるかもしれないが、患者に対して何か見下していると感じたり、メッセージ作成者が伝えようとしている内容とは文化的に異なるものがある可能性も十分にあり得るということです。 メッセージが誰かに害を及ぼすことが判明した場合、それに対処するプロセスが必要です。

バーガー: AI が生成したコンテンツについて話す代わりに、AI から情報を得たコンテンツという用語を使用した方がよいかもしれません。 AI がドキュメントの 95 パーセントを生成し、人間が最後の 5 パーセントを仕上げる場合、理論的には、そのドキュメントは人間が作成したドキュメントですか、それとも AI が作成したドキュメントですか? さらに重要なのは、患者が必要とする答えが得られるかどうかです。

ヘルステック: セキュリティとプライバシーに関する重要な考慮事項は何ですか?

ジョンソン: 患者固有の情報や、 保護された健康情報 これらの生成モデルのいずれにもまだ導入されていません。 複雑な病状を抱えた患者が来院し、ChatGPT がこの患者データをすべて受け入れられることがわかったとします。 そして、「この患者について話しましょう」と入力します。 これで私はその個人的な記録全体を GPT に完全に提供することになります。 そんなことをすべきではありません。

ゴスワミ: 今すぐ、 マイクロソフト Epic は、クライアントとして利用できる非常に安全でセキュアなクラウド環境を構築します。 しかし、真に重要な成功要因は、組織が受け入れ、責任、説明責任に関する独自の文化を評価することです。 これは適切に使用すれば非常に強力なツールです。 不適切に使用されると、組織や医療提供者の評判を傷つけ、対応している患者のデータが危険にさらされる可能性があります。

ロングハースト: カリフォルニア大学サンディエゴ校は最近、 医療サイバーセキュリティを改善するための 1,000 万ドルの助成金。 私たちは常に患者データを金のように扱ってきましたが、AI に関してもそのプロセスは変わりません。 私たちの AI の取り組みにより、アルゴリズムに情報を提供するすべてのデータが壁から出ていくことはありません。 私たちがベンダーと協力するときは、ベンダーを当社の安全な環境に導入します。

バーガー: 医療機関がこの種のテクノロジーをカバーするためにポリシーとコンプライアンスの文書を拡張しているのを目にします。 AI評議会やAI政策主任の職を創設したところもある。

続きを読む： 生成 AI プラットフォームで成功するための 3 つの鍵を学びます。

ヘルステック: 医療機関は生成 AI ソリューションを導入する前に、どのようなインフラストラクチャのニーズを考慮する必要がありますか?

ゴスワミ: 組織の EHR が最新ではない場合でも、本当に古いバージョンで、過去数年間にパッチやアップグレードをまったく適用していない場合を除き、Epic の最新の互換性のあるバージョンを入手するのに、通常は多くの労力は必要ありません。年。 Epic や Microsoft の最低基準を満たしていない顧客が 90% 未満だったら驚くでしょう。

バーガー: 一般に、人々は既存のテクノロジー インフラストラクチャ上に AI アプリケーションを構築します。 クラウド プロバイダーはすべて、Microsoft と OpenAI、Amazon、および AWS アントロピックと一緒に。 LLM を複数のクラウドで使用することはできますが、クラウド プレーヤーと LLM の間の相互作用を考慮する必要があります。

ヘルステック: 医療システムはどうすれば生成 AI をうまく導入できるでしょうか?

ゴスワミ: これはまったく新しいテクノロジーであり、どこが不足する可能性があるかを理解する必要があります。 たとえば、がんが発見された場合、患者は、利用可能な経済的支援のすべてのオプションについて自動生成された 6 つの段落からなる電子メールを必要としません。 いいえ。プロバイダーは電話に出て会話する必要があります。

ジョンソン: IT 関係者 (および医療 IT 関係者) のほとんどは、人材、プロセス、テクノロジーの三角形について知っています。 しかし、私たちが必要とする IT インフラストラクチャは人から始まるということをほとんどの人は知りません。 人はそうあるべきだ AIを使用する意欲と訓練を受けている。 また、AI の使用は完全に無料ではありません。 たとえ人々の時間を節約できたとしても、AI によって生成されるすべてのメッセージにはコストがかかります。

ロングハースト: これらは、すべての患者に対して検査を行わずに直ちに導入すべき技術ではありません。 慎重に評価し、意図しない結果が生じないようにすることに尽力してくれるパートナーが必要です。 結果を出版物やベンダーカンファレンスで共有し、学んだ教訓が標準機能となるようにします。