ロナルド・ロドリゲス博士は、ヘルスケアでユニークなタイトルを務めています。彼は医学教育の教授であり、サンアントニオのテキサス大学保健科学センターで、人工知能のデュアル学位における国内初のMD/MSのプログラムディレクターです。 5年間の二重学位は2023年に開始されました。
また、細胞生物学の博士号を取得しているロドリゲスは、AIのヘルスケアの変容の最前線にいます。彼は、AIと自動化がすでにヘルスケアに利益をもたらすすべての前向きな方法をよく知っています。しかし、彼はまた、臨床医とIT幹部に一時停止するべき技術のいくつかの側面を見ています。
これは、ロドリゲスとの2部構成のインタビューの一部です。ここで彼は、専門家による細心の注意を払う必要があるヘルスケアのAIの問題を指摘しています。パート2は、近日公開予定ですが、ビデオ形式で行われ、医療AI教育における医師の画期的な仕事について議論します。
Q.生成的AIツールで今日間違っている可能性のある臨床医は何ですか？また、病院および医療システムのCIOおよびその他のITおよびプライバシーリーダーは、今日の生成AIが正しく使用されるようにするためにどのように行うことができますか？
A. 彼らは保護された健康情報を効果的に保護していません。多くの 商用大型言語モデルサーバー プロンプトとデータをサーバーにアップロードし、後でさらにトレーニングするために使用します。多くの場合、プロバイダーは総臨床データを削減および貼り付け、大規模な言語モデルに再編成、要約、および評価を提供するよう求めています。
残念ながら、多くの場合、患者のPHIは、プロバイダーに容易に明らかにならないかもしれない方法で、ラボレポート、画像レポート、または以前のメモに含まれています。 PHIの排除の失敗は、ティア2 HIPAA違反です。各違反は、潜在的に別の罰金をもたらす可能性があります。 ITプロバイダーは、PHIがいつカットされ、貼り付けられているかを知ることができ、ユーザーにそれをしないよう警告することができます。多くの場合、これはすでに起こっています。
ただし、現在、これらのシステムのほとんどは、個々のレベルでこれらのルールのコンプライアンスを強制していません。病院と医療システムのCIOとテクノロジーのリーダーは、これらの違反から保護するPHI除去ツールを開発できます。 LLMプロバイダーの多くは、データ共有を防ぐ設定を許可しています。ただし、これらの設定の実施はプロバイダーの裁量であり、保証されていません。
Q.「AI使用の現在のビジネスモデルは、各プロンプトがトークンの数に基づいてコストを生成するエコシステムです。この増分コストは現在、実際にヘルスケアコストを削減するよりも増加する可能性が高いようにモデル化されています。」コストがどのように上昇するかを示す明確な例を使用して、あなたが意味することを説明してください。
A. それがシステムであるDaxとAbridgeを取りましょう 患者プロバイダーの相互作用の記録を取り、相互作用を転写します メモで使用するために要約します。これらのシステムのコストは、実際の使用に基づいています。
このシステムは、医師にとって生活をずっと楽にしますが、サードパーティの支払者を通じてこれらの追加コストについて患者に請求する方法はありません。代わりに、これらの増分コストに対して支払う唯一の現在のオプションは、プロバイダーがより多くの患者を見ることです。より多くの患者を見ることは、サードパーティのプロバイダーがより多くの主張を見ることを意味します。これは、最終的にはより高い保険料、またはより低い利益、あるいはその両方に反映されるでしょう。
LLMSを使用して患者の質問に答えることを自動化する他のシステムは、簡単な質問をしている患者に即時のフィードバックを提供する場合がありますが、増分のコストもあります。現在、これらのコストは請求可能ではないため、結果はより多くの患者を見る圧力です。
これらの生成的AIツールのいずれかを実装する病院システムを考えて、臨床文書化で医師を支援します。単一の医師は、患者訪問ごとにAIエンジンと複数回やり取りする場合があります。
現在、これを複数のシフトにわたって作業している医療システム内の数百または数千人の医師に増やし、AI使用量の累積コストは迅速にスカイロケットになります。 AIがドキュメントの効率を改善したとしても、頻繁なAIクエリの運用費用は、管理作業の減少による節約を相殺するか、さらに超えることさえあります。
これまでのところ、AIの使用モデルはペイパー使用であり、固定ライセンス料を備えた従来のソフトウェアとは異なります。したがって、組織がAIを毎日のワークフローに統合すればするほど、経済的負担は高くなります。
病院と医療提供者が費用対効果の高い価格設定構造を交渉したり、使用法を制御したり、社内のAIシステムを開発したりしない限り、AIの採用が予想される節約ではなく運用コストの拡大につながる状況にあることに気付くかもしれません。
Q.あなたは私に言った：「私たちが全体的な医療エラーの真の改善を実現する前に、保護手段を導入する必要があります。AIの過度に誤りを修正するために過度に依存すると、異なるタイプのエラーが生じる可能性があります。」問題について詳しく説明してください。あなたの意見では、必要なセーフガードについて話し合ってください。
A. LLMは、特定の状況下で幻覚を起こしやすいです。 一部のプロバイダーは、これらの状況を避けるのに非常に優れていますが、実際に生徒にそのような状況を避ける方法を教えていますが、多くは気づいていません。これらのエラーがキャッチされていない場合、新しい医療エラーの原因を導入できます。これを保護する1つの方法は、エージェント専門分野固有のAI LLMを使用することです。
これらのシステムは、情報の二重チェックを実行し、その真実性を確認し、洗練された方法を使用してエラーを最小限に抑えます。ただし、そのようなシステムは、ChatGptやClaud AIなどの既製のLLMに組み込まれていません。彼らはより多くの費用がかかるでしょう、そして彼らはインフラストラクチャへのより大きな投資を必要とします。
プライバシーを保護し、PHIの意図しない共有を防ぎ、基礎LMの事前供与に使用されるインターネットデータ削減にramp延する予測可能なLLMと誤解から保護するためのインフラストラクチャへの投資が必要です。コンプライアンスを実施するためのポリシーも必要です。
Q.病院や医療システムは、適切な倫理政策、ガイドライン、監視をどのように開発する必要がありますか？
A. AIテクノロジーが急速に進むにつれて、主要な医療機関は、機関がベストプラクティスを採用するのに役立つガイダンス文書と、融合したポリシーを提供する必要があります。これはいくつかのレベルで達成できます。
AMA、AAMC、政府の監視委員会などの監視組織や医療グループへの参加は、倫理的AIデータアクセスと使用ポリシーの共通の枠組みを強化するのに役立ちます。
LinkedInでビルのヒットカバレッジをフォローしてください： ビル・シウィッキ
彼にメールしてください： [email protected]
Healthcare IT NewsはHIMSSメディアの出版物です。
今すぐ見る：シアトルの子供のチーフAIオフィサーは、テクノロジーを通じてより良い結果を話します