AIガバナンス、ベンダー、Go/No-Go Moment Healthsystemcio.comのPandita

Deepti Pandita MD、CMIO＆VPの臨床情報学、UCI Health

臨床情報学のCMIO＆VP、UCI HealthのCMIOおよびVPのDeepti Panditaは、AIで最速の価値への最速の道は、それをサイドプロジェクトとして扱うのをやめ、既存の運用上の優先事項に直接織り込むことだと考えています。 「AIは、戦略的プロジェクトが何であれ、健康システムレベルで解決されている問題に埋め込まれるべきです」と彼女は最近のインタビューで、測定可能な結果を必要とする医療システムの実用的なプレイブックの概要を説明しました。

このインタビューは、最近公開された私たちの一部として実施されました AIに関する特別レポート

スタンドアロンのイニシアチブを開始するのではなく、このアプローチは、滞在の長さ、EDフロー、収益サイクルの漏れの長さ（AIが現在の戦術を増強または置き換えることができる場所）から始まります。そのフレーミングは、馴染みのある管理分野に基づいたガバナンスと測定を維持します。結果を定義し、所有者を割り当て、KPIを設定し、それらに対する報告を行います。

ポッドキャスト： 新しいウィンドウで再生します | ダウンロード （期間：31：03 – 21.3MB）

購読する： アップルポッドキャスト | Spotify | アンドロイド | パンドラ | iheartrodo | ポドカセー | ポッドキャストインデックス | メール | チューン

彼女は、ガバナンスが設計によりマルチステークホルダーでなければならないことを強調しました。運用上のリーダーであり、それを単独で行けることはありません。エンドユーザー、データサイエンティスト、倫理の専門知識には、摂取量から実装までのテーブルの座席が必要です。目標は、抽象的にAIを議論することではなく、展開前にツールを持って生きる人がそれを形作り、それを提唱できるようにすることです。

2番目の柱は、役割の明確さです。多くの組織は、AIが個別のガバナンスを必要とするか、既存の構造に折りたたむかを決定するのに苦労しています。 Panditaによると、答えは、摂取プロセスが他の技術を反映するべきであることを認識している一方で、進行中の監視は分岐します。 「ハイテクライフサイクル管理は、AIソリューションライフサイクル管理とは異なります。」その違い – ドリフト、変化するデータ、および進化するガードレールをモデル化する – は、運用上の所有権を断片化することなく、カスタマイズされたライフサイクルチェックポイントを正当化します。

誇大広告なしのライフサイクルと監視

規律は委員会のチャートを超えて広がっています。メトリックは、AI自体ではなく、ビジネス上の問題に関連付ける必要があります。つまり、成功を前もって定義し、データを更新する仮定を文書化し、再調整の計画を意味します。パイロットがつまずくと、犯人はしばしばアルゴリズムではなく、ワークフローの現実やデータのタイミングを見落としています。彼女は、明示的なGo/No-Goゲートを使用したタイムボックス化された実験を推奨し、KPIを移動せずにリソースを消費する無限の微調整に抵抗します。

文化については、見解は進化的であり、革命的ではありません。ヘルスシステムは、オンプレムからクラウド、ライセンスソフトウェアからSAASまでの初期のテクノロジーシフトをうまく消化しており、AIは同様の成熟アークを通過します。彼女は、教育と繰り返しは、ガバナンスの分野が一回限りのパイロットを基準に変えるのと同じように、不安を日常的な実践に変えたと彼女は指摘した。

ベンダーが「AIを追加」する場合：契約、透明性、制御

増加する運用リスクは、アップグレードまたは「仲間」を介して既存のベンダーを介して到着するAIです。これにより、製品のデータ、プライバシー、リスクプロファイルが一晩変更される可能性があります。調達は、彼女の話で、重要な防衛線になります。 「私たちの調達には、AIという言葉に言及するベンダー向けの標準フォームがあります。」セーフガードは、モデルが住んでいる場所、使用するデータ、出力の監査方法、失敗の責任を負う人を表面化するのに役立ちます。

トリッキーなケースは、発表されていない機能の注入です。それらには、新しい機能を見つけ、使用前にガバナンスを通じてそれらをルーティングするために、それ、セキュリティ、または契約スタッフによって警戒が必要です。ベンダーのローカルコンテキストの理解も重要です：学術環境、採用された教員モデル、および州固有のルール（カリフォルニアのAI姿勢など）は、適応せずに他の場所で「実績のある」ソリューションを作成できます。彼女は、共有する目標を共有し、サプライヤーが最初にサービスを提供しようとしているシステムを理解している場合にのみ仕事をしました。

現実との最初の接触を生き延びたパイロットの設計

効果的なパイロットは、ユーザー中心のデザインで構築されています。最前線の臨床医を早期に巻き込み、ピアチャンピオンを特定し、その人をビルド、テスト、ロールアウトを通じて関与させます。ボランティアは早期の努力をすることができます。プロジェクトの規模として、これらの「ブランドアンバサダー」に正式な時間（またはFTE）を割り当てることが保証される場合があります。

測定では、聴衆に調整されたハードリターンとソフトリターンを融合する必要があります。財務リーダーは、定量化可能な利益を優先します。臨床リーダーは、文書化の負担と燃え尽きの減少をより強く比較することができます。したがって、連合構築は動作モデルの一部です。有形の利益を経験する影響力のある臨床医は、スプレッドシートだけが不足しているエグゼクティブフォーラムで決定的な支持者になる可能性があります。

エンドゲームは規律のある意思決定です。彼女は、パイロットがターゲットを満たすことができなかったときに沈んだコストのバイアスに対して警告し、チームに事前にセットのタイムラインとスコープを称えるよう促した。 「あなたはgo-no-goの決定を下す必要があります」と彼女は言い、拡張は特定のテスト可能な変更でのみ発生するはずだと指摘した。

それを奪ってください

• 既存の戦略的問題にAIを結びます。ユースケースを探してAIプロジェクトを作成しないでください
• すべてのテクノロジーに1つの摂取パスを使用しますが、AI固有のライフサイクルチェックポイントを確立します
• 初日からガバナンスのエンドユーザー、データサイエンティスト、および倫理の専門知識を置く
• ベンダーのアップグレードごとにAI固有の契約言語とリスクアンケートが必要です
• 使用前にガバナンスを通じて「サイレント」AI機能の追加を検出してルーティングします
• 誤ったネガを回避するために、成功のメトリックとデータの更新の仮定を前もって定義します
• ピアチャンピオンのスタッフパイロット。イニシアチブスケール後の資金調達時間を検討してください
• エグゼクティブディスカッションでハードとソフトのROIをブレンドし、臨床擁護者の入隊
• スコープクリープと沈没コストのドリフトを防ぐためのタイムボックスパイロットと名誉Go/No-Goゲート

彼女は、AIの初期の誇大広告を超えて耐久性のある慣行を超えて業界への影響を見ています。ユースケースは、ガバナンスと運用が追いつくにつれて深み、分岐し、正規化されます。パンディタが推奨する管理姿勢はしっかりしているが、公平であり、試してみるのに十分な努力で、止まるのに十分な規律があります。彼女が言ったように、「時々あなたは厳しい愛をしなければならない」。