リソースの制約により、医療システムには Agentic AI の支援が必要

エージェントAIを追求する医療システムは、これらの新しいツールを最大限に活用するためにインフラストラクチャ、相互運用性、ガバナンスに取り組む必要があるとパネリストはヘルスシステムCIOの中で述べた ウェビナー 「価値の最大化、リスクの最小化: エージェント的 AI 戦略の運用化」。

UnitedHealth Group の上級副社長兼最高 AI 変革および戦略責任者の Syed Mohiuddin 氏、Southern Pediatrics の共同創設者である Stephen Nash 氏、Artera の CEO 兼共同創設者である Guillaume de Zwirek 氏は、安全への期待が高まっているにもかかわらず自動化への圧力が高まっている運用環境について説明しました。

モヒウディン氏によると、AIエージェントは、従来は人間が分厚い文書やポリシーを精査する必要があった、ますます複雑化する調整や実行作業を引き受けることができるという。同氏は、組織が人員を増やさずに業務を簡素化する方法を模索している現在、コストの上昇、管理負担、会員と臨床医の不満など、支払者と医療提供者の業務の間で増大する摩擦への対応としてエージェントを位置づけた。

プロバイダーの観点から見ると、熱意は依然として均一ではないとナッシュ氏は言います。最前線のチームが患者との関係、臨床上の意思決定、職務上の責任に与える潜在的な影響を検討している間、幹部は前進することがよくあります。医療機関は失敗の結果にこだわる傾向があり、失敗は患者に直接影響を及ぼし、業績が向上している場合でも導入の姿勢を形成する可能性があるためだと同氏は付け加えた。

デ・ズヴィレック氏は、大量の患者コミュニケーションのワークフローに携わるベンダーにとっては、ハードルがさらに高くなる可能性があると述べ、多くのやりとりはリアルタイムで発生し、人間のレビュー担当者がすべてのやり取りを検証することはできないためだと述べた。同氏は、特定のユースケースにおいて安全性、セキュリティ、有効性が十分に進歩し、より広範な展開をサポートできるとチームが結論付けた点について説明し、この変化はヘルスケアテクノロジーの構築と提供方法に変革をもたらすと述べた。

大量のワークフローが最前線へ

ウェビナーで議論された初期のユースケースは、反復的で時間がかかり、サービスの期待と密接に関係するタスクを中心にまとめられていました。ナッシュにとって、文書化とコミュニケーションという 2 つの優先事項が際立っていました。 AI 筆記者は、グラフ作成の効率向上を拡張し、臨床医が家族とより多くの時間を過ごすのを支援する一方、双方向メッセージングと迅速な応答により、家族がますます期待する消費者エクスペリエンスと医療のやり取りを調整できると同氏は述べました。

大規模で多様な企業内のポートフォリオには、ユーザーが何が起こったのかを理解し、請求や薬局のシナリオのナビゲートなど、次のステップを完了するのに役立つ「説明」および「アクション」パターンとともに、管理領域と臨床領域を含めることができるとモヒウディン氏は述べました。同氏は、会員と事業者の摩擦を軽減するための広範な取り組みの一環として、給付金の代替案や例外処理など、質問を具体的な行動に変換する例を挙げた。

デ・ズヴィレック氏は、顧客との会話は、多くの場合、単純な質問から始まると語った。「スタッフが追いつかないために仕事が遅れている組織はどこにあるのでしょうか?」同氏は、自動化がキャンペーンから大規模なガイド付きスケジューリングに移行できる領域として、人口支援とケアギャップの取り組み（健全児訪問、年に一度の健康訪問、検診、その他の措置）について説明しました。一例として、AI エージェントが大規模な集団に迅速に連絡し、予定された結果に向けて有意義なシェアを推進し、数週間かかる手動作業を数秒に圧縮できると同氏は述べた。

ガバナンスと相互運用性がゲート要素になる

組織が試験運用から本番環境に移行するにつれて、パネリストは、エージェント AI にはソフトウェアの実験よりも労働力管理に近い規律が必要であるという考えに繰り返し戻りました。チームはガバナンス、設計、可観測性を中心的な要件として扱い、規模の準備をしながらテストをサポートするアプローチを構築する必要があるとモヒウディン氏は述べています。同氏は、勤勉さを採用とトレーニングに例えました。オペレーターは、エージェントが何をしているのか、何が許可されているのか、そしてパフォーマンスがどのように経時的に監視されるのかを理解する必要があります。

De Zwirek 氏は、エージェントが運用に投入される前に安全上のリスクと幻覚を軽減することを目的としたメカニズムを強調し、リアルタイムで機能する体系的な評価および監視アプローチの必要性を指摘しました。同氏はまた、AI支援ソフトウェア開発から得られる教訓についても説明し、脆弱なシステムが実稼働環境に到達して新たな運用リスクが生じるのを防ぐには、レビュープロセスとアーキテクチャ規律が決定的となるという。

相互運用性が現実的な課題として浮上しました。デ・ズヴィレック氏は、構築対購入の議論の中で、特にエージェントがEHR、診療管理プラットフォーム、下流システムへの信頼性の高いアクセスを必要とする細分化されたプロバイダー市場では、パートナー関係であってもシステム統合作業は顧客側に残ることが多いと述べた。この現実が社内機能を構築するという同社の決定を形作ったと同氏は述べ、同時に完全な社内開発は大規模でないと法外なコストがかかる可能性があると警告した。

スピードには開始までのスピードと完了までのスピードという2つの側面があり、「ラストマイル」が結果を左右する可能性があるとモヒウディン氏は付け加えた。リーダーはエージェントによる AI の決定を、優先順位、競争上の差別化、必要な専門性の程度に結びついた古典的な戦略の選択として扱うべきだと同氏は主張した。

同グループはまた、組織がリアルタイム ワークフローを実行しようとするにつれて、最新のクラウドベースのプラットフォームと古い環境の間のギャップが拡大していることについても説明しました。 De Zwirek 氏は、単にサーバーを再配置することと、再利用とパフォーマンスをサポートする一貫した API およびセキュリティ制御を備えた最新のマルチテナント アーキテクチャで運用することを区別しました。一貫性のないデータ構造、レイテンシー、API 制限により、エンジニアリング チームは、複雑さを増し、ユーザー エクスペリエンスを低下させる補償レイヤーの構築を強いられる可能性があると同氏は説明しました。

リーダーシップと従業員の準備が採用を形作る

パネリストはテクノロジーを超えて、教育、コミュニケーション、文化を含むリーダーシップの責任として導入を説明しました。ナッシュ氏は、経営幹部は変化の方向を予測し、需要が膨大になる前に組織の準備を整える必要があり、これにはAI機能がどこに向かっているのかという長期的な視点に沿った思慮深いパートナーの選択も含まれると述べた。

モヒウディン氏は、大規模な対応には、指導層に深くまで及ぶ正式なトレーニングを含む、広範囲にわたる流暢さが必要であると述べた。目標は、消極的な慣れを超えて実践的な経験に移行することである。なぜなら、情報に基づいた実験を行うことで、リーダーがテクノロジーを遠くから観察するだけでは見逃してしまう可能性のあるアイデア、リスク、ガバナンスのニーズが表面化する可能性があるからである、と同氏は述べた。

委員会はまた、内部メッセージの重要性も強調した。組織は、患者と過ごす時間が増え、事務作業が減り、対応が迅速化されるなど、結果に基づいてコミュニケーションをとることで抵抗を軽減できるため、スタッフはツールがミッションや日々のワークフローにどのように対応しているかを理解できるとナッシュ氏は述べた。

テイク・イット・アウェイ

• 相互運用性とデータ アクセシビリティを前提条件として扱います。エージェントは、信頼できるタイムリーなシステム アクセスに依存しています。
• 文書化、メッセージング、スケジュール設定、ケアギャップの支援など、時間の節約とサービスの向上が測定できる、大量で摩擦の多いワークフローから始めます。
• 運用リスクに応じたガバナンスを構築します。これには、運用環境でエージェントが実行できる内容の評価、監視、明確な制御が含まれます。
• パートナーシップだけでは社内業務を排除できないため、統合、ワークフローの適合、組織の変更などの「ラスト マイル」の取り組みを計画します。
• 実践的なトレーニングを通じて経営陣と技術チーム全体で AI の流暢さに投資し、患者とスタッフの成果を中心に導入を組み立てます。

デ・ズヴィレック氏は、医療指導者らが率直に教訓を交換し、少数の早期導入者を超えて実験を推進すれば、より迅速に行動できるだろうと述べた。 「私たちはお互いに情報を共有し、お互いから学ぶ必要があり、全員がゲームに参加して学び、この業界を前進させる必要があります。」