GridlockなしでAIガバナンスの開発

ヘルスケア組織がAIの使用を拡大するにつれて、多くはリスクを管理し、患者の安全を保護し、勢いを維持するためにガバナンスモデルを再考しています。しかし、まったく新しい官僚的構造を構築するのではなく、いくつかのトップITエグゼクティブは、解決策は既存のシステムを進化させることであり、不必要な複雑さを避けながらターゲットを絞った監視を採用することだと言います。

最近の間 ウェビナー HealthSystemCioがホストした3人の上級指導者は、組織がAIガバナンスにどのように近づいているかを共有しました。コンセンサス：効果的なガバナンスは、共同、機敏で、馴染みのあるフレームワークに根ざしている必要があります。

Christus Healthのチーフオペレーションオフィサー兼副CIOのスチュアートジェームズ（VP）は、AIガバナンスを別のイニシアチブとして切り開くべきではないと主張しました。 「AIはテクノロジーです。私たちは常にテクノロジーを管理してきました」と彼は言いました。 AIは新しいリスクと可視性を導入していますが、ジェームズは、必要なものの80％が従来のガバナンスモデルに既に存在すると考えています。

これらの構造を置き換えるのではなく、Christus Healthは上級指導者を含む監視の層を追加しました。 「既存のテクノロジーガバナンス構造を整備していますが、上級幹部が特にAIに焦点を当てる最上層を追加しました」と彼は説明しました。 「ボードの誰もがAIをどのように管理しているかを尋ねることです。そのレベルの精査には注意が必要です。」

ターニャタウンゼンド、スタンフォードチルドレンズヘルスの最高情報＆デジタルオフィサー| Lucile Packard小児病院のスタンフォードは、そのアプローチを繰り返しました。彼女のチームは、確立されたITステアリングフレームワークを通じてAI関連のイニシアチブを報告しています。しかし、彼らは、新たなAI固有の質問に対処するために、特定の助言と監視グループを追加しました。

「私たちはガバナンスモデルの統合と簡素化に取り組んでいます」と彼女は言いました。 「しかし、AIには、監視が必要な3つの異なるレイヤーがあります。アドバイザリー入力、翻訳データサイエンス評価、責任ある展開に関する監視。」

制御上のコラボレーション

セントルークヘルスシステムのVP/CIOであるReid Stephanは、その役割はコマンドに関するものではなく、円滑化についてであると述べました。 「懐中電灯を保持していると考えてください」と彼は言いました。 「私たちは前進していますが、それは共有された旅です。ガバナンスは、合法、コンプライアンス、倫理、臨床指導者が私たちと一緒に歩くときに最適に機能します。」

これをサポートするために、セントルークは、コントロールタワーとして機能するAI Center of Excellence（COE）を設立しました。 AIイニシアチブを追跡し、技術レビューを実施し、既存のガバナンス団体と調整します。それ以上に、AI諮問委員会は、看護、倫理、その他の分野の代表者を集めて意思決定を導きます。

しかし、ステファンは、これらの層は、妨害することではなく、加速するように設計されていることを強調しました。 「ガバナンスがボトルネックのように感じることを望んでいません。それは、私たちが一緒に高く登るのに役立つ編組ロープのように感じるはずです」と彼は言いました。

タウンゼントは同意した。 「私たちは、AIをツールに埋め込んでいるEpic、Microsoft、Zoomなど、既存のベンダーと一緒に開発を整えようとしています」と彼女は言いました。 「私たちの目標は、安全性とコンプライアンスを確保しながら、アジャイルで応答性を維持することです。」

AIの3つの形式、1つのガバナンスモデル

重要な課題の1つは、ガバナンスがすべてのAIバリエーションにまたがることを保証することです。既存のプラットフォーム内に組み込み機能、サードパーティAPI、および大規模な言語モデル（LLMS）に基づくカスタム構築ツールです。

ジェームズは3部構成のフレームワークを提供しました：

1. 埋め込まれたAI、EpicまたはMicrosoft製品のベンダーネイティブ機能など。
2. APIベースのツール、EHRと統合するアンビエントボイスソリューションのように。
3. プラットフォームベースの開発、ヘルスシステムは独自のAIモデルを作成します。

これらのそれぞれには、異なるレベルの精査が必要ですが、すべてが統一されたアプローチの下で統治されなければなりません。 「叙事詩の構造はありません。エピック内のAIの構造はありません」とジェームズは言いました。 「既存のプロセスを並べ替えて上向きにする必要があります。並行宇宙を作成するのではなく、」

測定の成熟度

適切な構造が整っていても、究極のテストは、AI投資が実際の価値を提供するかどうかです。

スタンフォードチルドレンズで、タウンゼントは、彼女のチームがどのように周囲の音声認識の展開にアプローチしたかを説明しました。 「強い興奮がありましたが、特に小児科では安全性と正確さについても懸念がありました」と彼女は言いました。 「私たちは操縦し、測定し、自信を持っていたら、より広範な展開のためのビジネスケースを構築しました。」

そのケースには、明確な利点のフレームワークが含まれていました。臨床医の効率の向上、潜在的な量の成長、医療筆記者への依存度の低下です。スコアカードとダッシュボードは、展開が続くと結果を追跡するようになりました。

セントルークは同様の規律を適用しています。 「展開はフィニッシュラインではありません」とステファンは言いました。 「これは、継続的な説明責任のハンドオフです。リスクキャプチャの改善などのメリットを主張した場合、収益サイクルなど、他の部門が部分的なクレジットを取るために前進しています。そのため、共有ガバナンスと明確に定義されたメトリックが前に必要です。」

ジェームズは、すべてのAIツールが明確な経済的利益を約束しているわけではないが、ビジネスケースをまだ作成し、追跡する必要があると指摘した。 「私たちは、ケースを構築するためにオペレーションと提携し、成功がどのように見えるかを定義し、それを測定するためのツールを提供する必要があります」と彼は言いました。

以前の役割からの1つの逸話で、ジェームズは、ディレクターが音声認識ソフトウェアに懸命にロビー活動をし、100万ドルの転写節約を予測したことを説明しました。承認後、転写予算が実際に減少したとき、彼女はショックを受けました。 「彼女はほとんど心臓発作を起こした」と彼は回想する。 「しかし、それは説明責任の成熟したガバナンスが必要とするレベルです。」

共有所有権の考え方

最終的に、ガバナンスは構造に関するものですが、文化に関するものでもあります。ジェームズは、ITリーダーが影響力と謙虚さのバランスをとらなければならないと強調した。 「私たちは運用に役立っています」と彼は言いました。 「たとえアイデアが私たちから来たとしても、私たちは事業がビジネスケースをリードすることを望んでいます。」

Townsendは、役割は明確に定義されている必要があるが共同であると付け加えました。 「私たちは、運用上LEDでサポートされているモデルを使用しています」と彼女は言いました。 「私たちのIT共同議長は、自分でガバナンスプロセスを推進するための時間や専門知識を持たない運用リードのコーチを支援します。」

3人のリーダー全員にとって、テーマは明確でした。優れたガバナンスは共有ガバナンスです。それはAIを遅くすることではなく、自信を持ってそれを導くことです。

それを奪ってください

• 既存のITガバナンスをAI監視の基礎として使用する
• 冗長構造を構築せずにターゲットアドバイザリーとリスクレビューグループを追加する
• 実際の影響を測定するための各AIイニシアチブのメトリックを定義および追跡する
• AIを、テーラードガバナンスのための組み込み、APIベース、およびプラットフォーム開発カテゴリに分類
• 運用リーダーの共同議長委員会を確保し、コーチングの役割を担う
• アクション後のレビューやガバナンス監査を含む継続的な改善ループを確立する
• 発表されていないAI機能のベンダーの更新を監視し、展開前のリスクチェックが必要です
• ゲートキーピングのメンタリティを避けてください。ユーザー中心のガバナンスエクスペリエンスに努めます

「私たちは良い決断を必要とするだけではありません。良い対話が必要です」とステファンは言いました。 「それが進化している速度でAIを支配する唯一の方法です。」