Geisingerは、AIガバナンスと労働力のリテラシーを改良します

Morgan Jeffries、MD、GeisingerのAIのメディカルディレクターと彼の同僚は、大規模な統合医療システムがAIを整理、監督、教育する方法を再構築しています。

GeisingerのAI機能内で、JeffriesとPeersは、製品チーム（データサイエンティスト、エンジニア、設計を備えた製品マネージャーを提供する製品チーム）を再構築し、高ポテンシャルのアイデアをサポートされているソリューションに変換しています。彼は、2トラックの動作モデルについて説明しました。ガイシンガーが問題を所有するときに内部モデルのエンドツーエンド、およびモデルの透明性、Geisingerデータのローカル検証、監視、およびポリシーコンプライアンスのローカル検証を確保するためにサードパーティの提供を審査するときに「イネーブルメント」を作成します。

ポッドキャスト： 新しいウィンドウで再生します | ダウンロード （期間：46:57 – 32.3MB）

購読する： アップルポッドキャスト | Spotify | アンドロイド | パンドラ | iheartrodo | ポドカセー | ポッドキャストインデックス | メール | チューン

需要が加速するにつれて、ジェフリーズと同僚はエグゼクティブリーダーシップと協力して、エンタープライズの優先順位の最終候補者リストを定義し、それらを希少な能力のゲートとして使用しました。彼は、プログラムの選択（何を構築または有効にするか）は、リスクガバナンス（安全性と説明責任を確保する方法）とは異なることに注目しました。前者は、投資を戦略的目標と一致させます。後者は、環境に入るAI-Bearingプログラム（ホームグラウンドまたはベンダーがサプライした）に適用されます。

リスクを伴うガバナンス

ジェフリーズは、「良い」とどのように見えるかを尋ねられ、リスク別にプログラムを並べ替えるシステム全体の摂取量と委員会のレビューを指摘しました。低リスクの使用は、ベストプラクティスと軽いタッチを受け取ります。リスクの高い使用には、プログラムのビジネススポンサーが所有し、中央にレビューしたデューデリジェンスの証明が必要です。 「彼らは、AIシステムに関連するリスクの評価を行う必要があります…そして、株式評価…そして監視計画…そしてエスカレーション計画が必要です」と彼は言いました。彼はまた、委員会の審議のために、技術的、臨床的、倫理的に複数の視点をもたらすことの重要性を指摘しました。

彼はガバナンスを調達と差別化しました。新しいベンダーは、AIについて明示的に尋ねるITの摂取と契約フォームを通じてフラグを立てられますが、より厳しい課題はボリュームとドリフトです。その現実は、指導者たちに、ケースバイケースのレビューを超えて、パターンやプラットフォームに向かって考えるように強制したと彼は主張した。

どこにでも埋め込まれたAIの準備

市場は「私たちはAI会社」から「AIは製品内」に移行し、Geisingerはそれに応じて監視モデルを適応させています。多くのAIを搭載したワークフローを可能にする確立されたプラットフォームの場合、ジェフリーズと同僚はプラットフォームの所有者と共有ガバナンスケイデンスで協力しているため、監視はソリューションの組み立て場所に近づきます。純粋なスケーラビリティについて、彼は率直でした：「集中統治、そのモデルはバラバラになります。」代わりに、セントラルチームはポリシーを定義し、リスクパターンに関するコーチを定義し、特定の高いインパクトまたは曖昧なケースに踏み込む必要がありますが、ビジネスおよび製品の所有者はコンプライアンスの日々の責任を負います。

彼はまた、多くのリーダーが尋ねている質問を楽しませました。AIはAIのレビューを支援できますか？彼は、過度の依存（自動偏見、自己満足、スキル脱皮が現実的）に依存していると警告しましたが、アシスタントスタイルのツールは、経験の少ないプロジェクトマネージャーが、そうでなければ見逃している可能性のあるリスクと株式の角度を考慮するのに役立つことを認めました。その意味で、適切に設計された副操縦士は、「代替よりも優れている」可能性があります。

委員会だけでなく、労働力を教育します

3番目の柱は教育です。ジェフリーズは、この組織は2つのことを行うカリキュラムを構築していると述べました。従業員に生成ツールを安全かつ効果的に使用するように教えること、および最前線のスタッフが小さな勝利と注意のレッスンを共有する文化を正常化することです。彼は、この文化的拡散を実用的なリスク制御と見なしています。これは、過去10年間のフィッシングを認識することをスタッフがどのように学んだかについてです。多くの従業員は、AIが幻覚できることをすでに知っています。システムが質問のフレーミングを反映し、権威あると感じる片面回答を提示する微妙なバイアスやサイコファンシーなどの微妙な障害モードを高く評価していません。

彼はまた、周囲のドキュメントツールについて現実的です。パフォーマンスは専門とワークフローによって異なります。 「私の役割において…それが生成するのはエラーのないものとはほど遠い…私はまだ多くの編集をしなければならない」と彼は言ったが、プライマリケアの同僚は時々、最小限の変更で許容できるAIドラフトのメモを見つけることがあると述べた。スタイルの適応 – 臨床医の声を書くシステムを科せている – は、市場に存在していると彼は付け加えたが、結果はベンダーの能力と現実世界のテストに依存します。

動作リズムを構築します

プログラムのレビューとトレーニングを超えて、ジェフリーズは測定可能な動作リズムの必要性を説明しました：クリア摂取チャネル。 AIの存在のための早期の再現可能なスクリーニング。低タッチガイダンスまたはより深いレビューへのクイックトリアージ。そして、何が生きているのかを監視する方法。彼は、人間の監視が衰退しているときに表面に浮かぶ軽量シグナルを支持します。これは、AIがドラフトされたメモのゼロ編集率に近いものです。そのため、リーダーは事件を待つのではなくコーチングに介入できます。目的は、人間の注意を較正することです。システムが長いストレッチに対してうまく機能する場合、警戒は自然に侵食されます。

彼は仲間に急いから緊急性を分離するように促した。アンビエントリスニングは、スタッフの需要が強く、利益が見えるため、「テーブルステークス」に近づいています。他のカテゴリは、価値とプロセスの成熟度がより明確になるまで抑制を保証します。彼は、トレーニングボックスをチェックするだけでなく、ポリシーを改良し、摂取量と監視を拡張し、実際に行動を変える教育を強化する時間を購入し、その一時停止を主張しました。

それを奪ってください

• AI-Bearingプログラムにフラグを立てる単一の摂取量を立ち上げます。
• リスクによって分類されます。リスク、公平、監視、エスカレーション計画を文書化するために、高リスクプログラムの所有者に要求します
• 中央ガバナンスのコーチングと選択的レビューにより、AI対応プラットフォームの責任プラットフォームの所有者への監視のシフト
• 製品マネージャーをデータサイエンティストとエンジニアとペアにして、高価値のアイデアをサポートされているソリューションに変換します
• 幻覚、確認バイアス、安全な迅速な慣行をカバーする労働力リテラシーに投資します。ユースケースの共有を促進します
• 運用信号（例えば、AIノートのゼロ近くの編集）を追跡して、人間の監視の減少を検出し、コーチングをトリガーする
• エグゼクティブリーダーシップで設定されたエンタープライズ優先順位の短いリストにビルド/イネーブルメント容量を調整する
• 需要と証拠が最も強い場所で最も速く移動します（例えば、アンビエントリスニング）。他の場所で慎重に進んでください

ペーシングに関しては、彼は抑制を促しました。 「この分野のリーダーになるためにすべてに急いでいる必要があると感じないでください。他の人に間違いを犯させてください。」