Duke Health が AI ガバナンスを強化し、パイロットを拡大

エリック・プーン、医学博士、MPH、CHIO、デューク大学医療システム

デューク大学医療システムの最高医療情報責任者であるエリック・プーン医師、MPH は、同組織が AI を分散実験から企業戦略に沿った運用規律にどのように移行させているかについて説明しました。 Poon 氏は、AI が関与する場合のライフサイクル監視の追加と、証拠に基づくスケーリングへのバイアスを伴うテクノロジー上の意思決定の単一の取り込みについて概説しました。同氏は、このアプローチは投資をアクセス、品質、マージンの目標に結びつけながら、結果に基づいてツールを評価、拡張、または廃止する余地を生み出すものだと述べた。

このインタビューは、最近出版された記事の一部として行われました。 AI特別レポート

Duke では、AI への取り組みは、他のテクノロジーに使用されるのと同じ正面玄関を通って行われます。青信号が点灯すると、専用の AI ガバナンス機能がパイロット設計、リスク階層化、長期監視のためのガードレールを設定します。彼はガバナンスを目的を達成するための手段、つまり適切な利害関係者を結集させ、実際のワークフローとの接触に耐えることができない一回限りの実験に抵抗する運用モデルであると位置づけました。 「AI は単にエキサイティングなだけではありません。それはここにあります」とプーン氏は述べ、従来の IT ガバナンスの教訓は、特にビジネスの所有権と説明責任に関する AI の監視に直接適用できると付け加えました。

ポッドキャスト: 新しいウィンドウで再生する | ダウンロード (長さ: 39:21 — 27.0MB)

購読する： アップルのポッドキャスト | スポティファイ | アンドロイド | パンドラ | イハートロド | ポッドチェイサー | ポッドキャストインデックス | 電子メール | チューンイン

同氏は、一元的なレビューは分散型の意思決定を妨げるものではないと強調した。その代わりに、ドメイン チームは、リクエストが進む前に、オペレーターと同じように相談して、解決すべき問題、成功基準、統合ポイントを明確にすることができます。

適切な問題を選択する

ユースケースは、まず企業の優先事項 (人材、成長、アクセス、品質、営業利益) によってフィルタリングされ、次に AI が結果を大きく変えることができる領域に絞り込まれます。同氏は、ケアの再設計のための生きた実験室として機能する入院イノベーション部門と、運営の複雑さと利益率の向上を目的とした収益サイクル追跡の 2 つの集中分野を強調しました。

プーン氏は、これらの重点分野は他の提案を囲い込むものではないと指摘した。むしろ、サービスライン全体で新しいアイデアが浮上するにつれて、購入、構築、パートナーの選択を導くためのイノベーション清算機能が正式に確立されつつあります。同氏は、熱意だけでは進めていくのに不十分であり、まったく新しい提案によるものであれ、定期的なベンダーのアップグレードにバンドルされたものであれ、ツールがどのように導入されたとしても、基本的な勤勉さは一貫していることを強調しました。

意味のある規模での試験運用

最近の環境文書評価は、デュークの戦略を示しています。それは、クロスオーバーパイロット、大規模な臨床医コホート、満足度、燃え尽き症候群、品質、生産性のシグナルを捉える指標です。同氏は、信頼できる内部証拠が支持を促進し、それが資金調達や変更管理の決定を容易にするため、規模が重要であると述べた。プーン氏はまた、時間制限のあるパイロット、明確な仮説、透明性のあるコスト、事前定義された継続/中止チェックポイントなど、規律あるテストと学習の姿勢についても指摘しました。 「王子様や王女様を見つけるには、たくさんのカエルにキスする必要がある」と彼は言い、フェイルファストをその場限りの実験のライセンスとしてではなく、証拠への取り組みとして位置づけた。

同氏は、テクノロジーリーダーは試験運用を開始する前にオペレーターと同様に相談するよう指導されていると付け加えた。つまり、問題を確認し、ワークフローの適合性を評価し、変更管理のリフトを特定し、セキュリティの成熟度を審査するというものだ。 Poon 氏は、すべての要求者が適切な問題の所有者であるわけではなく、初期の会話では、提案されたツールと下流での導入の現実との間の不一致が表面化することがよくあることを強調しました。

準備の構築と変更の管理

デューク氏はツールを超えて、AI リテラシーを専門能力開発と政策に織り込んでいます。同氏は、専門家の責任、既知の故障モード、承認されたプラットフォームの使用を強調する生成 AI に関する公開されたガイダンスについて説明しました。プーン氏は、指導者らはAI教育を年次臨床研修に組み込む方法や、適切な臨床医のレビューがない機械生成コンテンツの異常に高い受け入れ率など、生産現場での過剰依存のシグナルを検出する方法について活発に議論していると述べた。彼は文化的メッセージを、警告ではなく力を与えるものであると特徴付けました。 「仕事のことは心配しないでください。AIを使用する臨床医が、使用しない臨床医に取って代わるからです」と同氏は述べ、幅広いリテラシーと実用的なガードレールが安全で永続的な導入の前提条件であると主張した。

また同氏は、ガバナンスがリスクを評価し、パイロット設計を推奨し、耐久性の監視に対する期待値を設定できるように、ベンダーの定期的なリリースを通じて提供される AI 機能にフラグを立てるよう製品所有者が指導されており、「一度設定したら忘れる」ことが決してデフォルトにならないようにしていると説明しました。 Poon 氏は、収益サイクル、入院業務、その他の領域は、導入数だけでなく成果と ROI をガバナンスにもたらすことが期待されているため、導入後の価値チェックには意味があると強調しました。

テイク・イット・アウェイ

• 確立された正面玄関に AI を導入します。ライフサイクルの監視とモニタリングを追加する
• ツールを追いかける前に、ユースケースを企業の目標に結びつける
• 明確な仮説、対策、予算、スケジュールを使用してパイロットを設計する
• 信頼できる内部証拠と支持者を生み出す規模で試験運用を行う
• ベンダーのアップグレードにおける AI 機能をまったく新しいリスクとして扱う: トリアージ、パイロット、モニター
• ワークフロー、変更管理、セキュリティの成熟度について相談するようリーダーを指導する
• 生成型 AI ガードレールを公開し、年次トレーニングに AI リテラシーを組み込む
• 過剰依存の兆候を追跡し、教育やプロセスの修正に介入します。
• 清算機能を立ち上げ、パートナーの購入、構築、意思決定を透明に導く
• 導入後の値チェックを必須にする。結果に基づいて維持または沈静化する

プーン氏は、市場が急速に進化し、リスクが依然として高い中、規律ある実験を標準化し、オープンな知識共有を行うよう同業者に促した。 「私たちは学んだ教訓を共有することが絶対に必要です」と彼は言いました。