ジェネレーションAIの「ミッションクリープ」は医療システムにとって危険

生成型人工知能は医療を急速に変革しています。多くの新しいテクノロジーが、臨床スタッフや管理スタッフをサポートし、患者の体験を向上させるという良い結果を示しています。

しかし、医療システムが AI を選択して実装するための戦略を間違えると、AI は役立つだけでなく、損害を与える可能性もあります。

「Gen AI の『ミッションクリープ』は、私が現在見ている最大の医療 IT および RCM の脅威です」と、シンシナティに拠点を置く Bon Secours Mercy Health の最高臨床イノベーション責任者であるマーク・タウンゼント医学博士は述べています。「誤解しないでください。私は、Gen AI が、より賢く働くことに役立つ可能性を信じています。私たちは、Gen AI を使用した新しいテクノロジーの開発に熱心に取り組んでおり、Gen AI に選択的に投資しています。Gen AI は、患者ケアや運用パフォーマンスの万能薬ではありません。」

医療システムの幹部は、AI 主導の製品による新製品や可能性に溢れており、今日の AI 世代の限界を試すパートナーシップに取り組んでいます。しかし、AI の進化と医療分野への導入が急速に進んでいるため、実証されていない、または十分に実証されていないテクノロジーに過度に依存することには、現実的なリスクがあります。

「ジェネレーション AI のミッション クリープは、その潜在能力を過大評価し、パフォーマンスを過小評価することです。これには、すべての出力を検証するために、必ず人間が関与する必要があります」とタウンゼント博士は述べています。「言い換えれば、ジェネレーション AI ツールの価値を真に定量化することに挑戦することは、現時点では困難です。」

クリーブランドのメトロヘルスの臨床研究情報学部長であるヤシル・タラビチ医師も同様の懸念を表明した。

「医療ITにおける最大の脅威は、ポイントAIとデジタル技術ソリューションの無制限な導入であり、価値をもたらさないシステムに多大な埋没コストをもたらす」とタラビチ博士はベッカーズ誌に語った。「医療費の上昇と償還金の減少に直面して、こうした非効率性は財政的圧力を増大させ、患者のケアからリソースを逸らしている。」

同氏は、実りのないAI投資を避けるために、堅牢なガバナンス、データ標準、相互運用性に重点を置くことを推奨している。新たなデジタルツールとAI駆動型アプリケーションにより、効率性とケアの質が大規模に向上するはずだと同氏は述べた。

AI 駆動型ツールの導入がどの程度うまく行われているかについて、医療リーダーと臨床医の間でコミュニケーションがうまくいかないと、組織に損害を与える可能性があります。ニューヨーク市のマウントサイナイ医療システムのエグゼクティブディレクター兼最高医療情報責任者のパティ・クアルタス氏は、AI ツールを組み込み、フィードバックを集め、調整を行うための確固たる計画が成功の鍵であると述べています。

「ご存知のとおり、AIはテクノロジーとしては目新しいものではなく、他のテクノロジーと同様に進歩し、より利用しやすくなっています。しかし、AIのガバナンスと実装が適切に伝えられなければ、AIの適切な使用が実現する前にスタッフと患者を失うという最大の脅威になる可能性があります」とクアルタス氏は述べた。

ヒューストン メソジスト病院は、長年にわたりイノベーションの文化を築き上げ、部門間の連携を確実にする独自の構造を持つ強力なイノベーション部門を擁しています。ヒューストン メソジスト病院のエグゼクティブ バイス プレジデント兼最高イノベーション責任者であるロバータ シュワルツ博士は、医療分野では生成 AI の導入が急速に進んでいるため、テクノロジーと人材の両面で対応することが難しいと述べています。

「医療費の削減に取り組んでいる時代にあって、変化を受け入れることは依然として難しい」と彼女は語った。「『文化が戦略を食いつぶす』のであれば、文化が私たちの進歩に興奮せず、新たな道を切り開こうとしないなら、IT戦略と技術の進歩は妨げられるのは当然だ」

ヒューストン メソジスト病院は、長年にわたりイノベーションの文化を築き上げ、部門間の連携を確実にする独自の構造を構築してきました。ヒューストン メソジスト病院のエグゼクティブ バイス プレジデント兼最高イノベーション責任者であるロバータ シュワルツ博士は、医療分野では生成型 AI の導入が急速に進んでいるため、技術面と人材面で追いつくのが難しいと述べています。

「医療費の削減に取り組んでいる時代にあって、変化を受け入れることは依然として難しい」と彼女は語った。「『文化が戦略を食いつぶす』のであれば、文化が私たちの進歩に興奮せず、新たな道を切り開こうとしないなら、IT戦略と技術の進歩は妨げられるのは当然だ」