誇大広告を打ち破る: Agentic AI を導入する前に知っておくべき 3 つのこと

ヘルスケア業界は「エージェント AI 時代」に突入しており、新しい AI スタートアップの急速な増加と多額の資金提供が特徴です。しかし、医療制度の 80% は、 AI ソリューションを特定、選択、実装するためのリソース。

ここで問題が発生します。エージェント AI から最も恩恵を受ける可能性のある医療システムは、多くの場合非常に時間がかかるか、エージェント AI を導入できないことさえあります。

10 年以上にわたり、私は医療 IT の進化の複数の「時代」を見てきました。 「Agentic AI」は、スタッフの負担を軽減しながら、患者を簡単かつ効率的にケアに結び付けるという、医療が長年焦点を当ててきた課題を解決するのに役立つ次のソリューションです。

しかし、新しいことであり、これまでと異なるのは、スケジュール設定、再スケジュール、紹介、処方箋、退院後、一般的な質問など、患者アクセスの管理面およびコミュニケーション面を含め、患者と医療の関わり方を完全に変える可能性を秘めた AI の潜在力であり、現時点では未開発であるということです。

医療機関が患者とのコミュニケーションにエージェント AI ソリューションを導入する際の 3 つの考慮事項は次のとおりです。

「統合ライト」機能に騙されないでください

EHR は真に価値のある AI エージェントの基盤であるため、どのベンダーも「深い」EHR 統合を約束します。患者記録を安全に読み書きできる機能は、エージェントがワークフローを自動化し、真の価値を提供する方法です。

しかし、ベンダーが単に「やっていく」だけでなく、この分野の真のリーダーであるかどうかをどうやって判断するのでしょうか?重要な指標は、新しい将来を見据えた標準の採用です。

たとえば、次のように考えてみましょう。 モデルコンテキストプロトコル (MCP)。これは、Anthropic によって開発された新しいオープン標準で、AI エージェントが外部システムと対話する方法を根本的に変えます。これは、従来の API では LLM に及ばないギャップを埋め、EHR などのシステムとのより安全で動的、効果的な対話を可能にする「AI エージェント用の API」と考えてください。

潜在的なパートナーは積極的に MCP を採用していますか?もしそうなら、単純なラッパーを構築しているのでしょうか、それともエンドツーエンドのタスクを熟考して、LLM による判断呼び出しを制限する MCP 関数を設計しているのでしょうか?チームと投資を評価します。技術的な先見性と、単にやりくりする以上のことを行うためのリソースを持っていますか?適切なパートナーは、今日の統合ニーズを満たすだけでなく、将来の進歩を最大限に活用できるように医療システムを配置します。

クイックフィックスの罠を回避する

新しいソリューションを採用する場合、リーダーは一時的なものではなく、持続可能で長期的な解決策を求めます。しかし、多くの新しい実装は、表面レベルの問題に対処するだけで、中核となるインフラストラクチャ レベルの問題と手作業が未解決のままであるため、永続的な価値を提供できません。

最近、依然としてファイル転送や手動データ入力に依存しているエージェント AI の実装について聞いたことがあります。このアプローチでは迅速な展開が可能になりますが、最悪の場合はすぐに修正されてしまいます。手動プロセスが永続し、古いデータが使用されるリスクや PHI/PII の誤った取り扱いのリスクが増大し、管理スタッフを長期的に解放できません。

対照的に、真の自律型エージェント AI ソリューションは、下流システムへの動的な統合 (MCP 経由など) を使用するか、ベンダーがすでに提供しているソリューションの広範なポートフォリオに自然に統合します。これらのアプローチは持続的な投資収益率を実現しますが、最初の実装には若干時間がかかる場合があります。

また、ベンダーによっては、迅速な実装を目的としてエージェント プロンプトにすべてを投入する場合があるため、迅速な修正を求めてエージェント プロンプトを過剰に設計する衝動を抑えてください。これは迅速な稼働開始には効率的であるように見えますが、脆弱であり、リスクが生じます。一方、慎重に設計されたインテントベースの MCP ツールは、パフォーマンスを向上させ、幻覚のリスクを軽減し、スケーラビリティを向上させることができます。

プロバイダー組織が将来を見据えるために答えるべき質問もあります。つまり、この実装は 6 か月後も 1 年後も価値があるでしょうか?今日スピードを重視することで、明日のシステムにふさわしい、より深く、より革新的な価値が犠牲になっていませんか?これらは、医療提供者が持続可能性と安全性に対するスピードの価値を比較検討する際に重要な考慮事項です。

セキュリティの「チェックボックス」の考え方を避ける

特にエージェント AI の時代では、セキュリティとプライバシーに「ゴールライン」はありません。風景は常に変化しています。私がこの業界に入り始めたとき、HITRUST 認定があれば十分だと信じていました。今日、そうではないことが分かりました。このような認定は、ある時点のスナップショットであり、医療システムの最も機密データを保護するための継続的な取り組みを反映するものではありません。

多くのベンダーは、認定の取得、セキュリティ リーダーの雇用、標準プロトコルの実装など、適切な措置を講じていますが、それが出発点となるはずです。医療データのセキュリティとプライバシーは、数年前のものをはるかに超えて進化しており、現在では、常に学習し、適応し、独自に意思決定を行うエージェント AI システムがこれをさらに悪化させています。エージェント型 AI によって新たなセキュリティ上の課題が生じる中、医療システムのリーダーは、現在強固なセキュリティ対策を講じているだけでなく、AI セキュリティのトレンドを先取りすることに積極的に取り組んでおり、MCP を使用したデータ流出の軽減や、会話を分析してスコアを付けるためのテスト エージェントの実装など、効果的なソリューションで新しい脅威に迅速に適応できるパートナーを優先する必要があります。

今日、セキュリティとプライバシーに対する確固たる取り組みは、基礎的かつ文化的なものでなければなりません。セキュリティ第一の考え方と取り組みは、全社のテクノロジー、すべての部門、すべての人々に及ぶ必要があります。これは組織の価値であり、残りの従業員を「管理」する責任を負った小規模なチームによって管理される少数の認定資格ではありません。

たとえば、政府機関と協力する企業は、米国政府の最も厳格なセキュリティ標準である FedRAMP High 認証を追求する場合があります。これは単にボックスにチェックを入れるだけではないため、賢い選択です。このプロセス自体により、組織全体にセキュリティの文化がさらに組み込まれます。

最後に、新しいエージェント AI 時代では、単にテクノロジーを購入するだけではありません。あなたは学習し、適応し、チームの業務の一部となるシステムを採用しているのです。エージェント AI ベンダーは、お客様と同様に長期的な成功に投資するパートナーである必要があります。

違いはどうやってわかりますか？ベンダーはソリューションを販売し、マニュアルを渡します。パートナーはお客様と協力してお客様固有のワークフローを理解し、堅牢な実装計画を共同作成し、標準のヘルプ デスクを超えた継続的なサポートを提供します。

結局のところ、最も価値のある AI エージェントは、すぐに販売するだけでなく、長期的に協力してくれるパートナーによって支援されるエージェントです。

写真：茅野雄一郎、Getty Images

この投稿は、 メッドシティのインフルエンサー プログラム。誰でも、MedCity インフルエンサーを通じて MedCity News でヘルスケアにおけるビジネスとイノベーションに関する視点を公開できます。 方法を確認するにはここをクリックしてください。