コンセンサスベースのアプローチを採用して、新しい社会技術的なAIガバナンスフレームワークと管理ツールを開発および実装しました。この研究は、2つのプログラムフェーズでのこのアプローチの評価です。 デザインと発展ガバナンスアプローチのt、および（2）現実世界 実装エクスペリエンスと出力 最初の1年間の責任あるAIプログラムの行動。各フェーズには、以下に説明する2つのプログラムワークストリームがありました。結果は、AIモデルガバナンスのために開発された新しいツールの説明、AIプログラムの管理の記述統計、および例示的なユースケースとして報告されています。臨床的および運用上の結果に対する個々のAIモデルの影響は、このレポートの範囲を超えており、将来の経験的研究の基礎を形成します。ただし、新しいAIモデルライフサイクル管理プロセスの明示的なステップとして、パフォーマンスとインパクトについて生産モデルがどのように評価されるかを以下に説明します。
フェーズ1：AI戦略的ロードマップの設計と開発
私たちの最初のフェーズは、私たちの組織全体でAIの開発と使用の現状を評価し、将来の戦略的投資とサポートの合理的な計画を開発することでした。倫理的AIガイド原則に関するメモリアルスローンケタリング（MSK）での以前の研究は2022年に完了しました。2022年後半に新しいLLMSと生成AIのリリースにより、エグゼクティブリーダーシップは更新された戦略とロードマップを依頼しました。このニーズに対処するために、2023年第1四半期にAIタスクフォース（AITF）が作成されました。 AITFのアクティビティと出力のメンバーシップとタイムラインについては、倫理的AIの原則を含めて表4に詳しく説明されています。アクティブなAIプロジェクトの将来のエンタープライズインベントリが作成およびレビューされました。学際的なAITFは、5年間の期間にわたって腫瘍学固有の戦略的優先順位を特定しました。その計画の責任ある効果的な実行を確保するために、AITFは、進行中のAIプロジェクトの量と現場の急速な変化のペースに対処するために、「AIガバナンス機関」を作成することを推奨しました。
表4MSKでのRAIガバナンスのための発売前および発売後のタイムライン
フェーズ1：AIガバナンス委員会の設計と開発（AIGC）
フェーズ2：実装 – 技術サポート方法
RAIアプローチの第2フェーズは、組織全体のハブアンドスポークモデルで集中化されたAIテクニカルサポートチームの設立を含む、実装に焦点を当てました。 AI/ML Solutions Engineeringは、2021年に開始された集中エンジニアリングチームです。コア機能には、AIライフサイクルエンドツーエンド（つまり、発売後の監視による初期設計）およびAI対応アプリケーションの技術サポートが含まれます。チームは、AIの発見とテストのために、承認されたプロジェクトと情報安全なサンドボックス環境をサポートしています。これは、11人のスタッフ（データサイエンティスト、AI/MLエンジニア、戦略、プログラムサポート）で構成されており、必要に応じてさらに10人の沖合コンサルタントがチームを増強しています。 AI/ML Solutions Engineeringチームは、組織全体のさまざまな部門に収容されている他のいくつかのAI開業医グループと提携しており、そのスコープには、資金提供されたAI研究を許可する病院運用のAIモデルが含まれています。
図6に示すように、AI/MLソリューションエンジニアリングチームは、AIモデルライフサイクルオンプレミスおよびパブリッククラウドのエンドツーエンドプラットフォームをサポートしています。テクノロジースタックは、機械学習/ディープラーニング（ML/DL）、モデルを生産に移すツール、および認知、大手言語モデル（LLM）、およびVision Large Model（VLM）サポートに及びます。
図6：AI/MLプラットフォームアーキテクチャ。
AI/MLソリューションエンジニアリンググループには、2つの主要なワークストリームがあります。1）AI/ML臨床研究グループ、2）AI/MLプラットフォームグループ。 AI/ML臨床研究グループは、助成金、出版物、および遡及的研究の研究者と連携しています。対照的に、AI/MLプラットフォームグループは、継続的な監視（つまり、機械学習操作（MLOPS））を使用して、エンタープライズ全体のユースケースと展開を完全な生産にサポートしています。研究グループは、多くの場合、AIの開業医がアイデアをインキュベートするのに役立ち、その後、プラットフォームグループによって生産展開のために取り上げられます。両方のグループは、モデルのパフォーマンスの検証を支援します。臨床研究グループは、レトロスペクティブホールドアウトデータを使用し、信頼区間のためにk-fold Cross-validationをBootstrapで適用します。プラットフォームチームは、AI/MLプラットフォームツールを使用して、モデルのパフォーマンスメトリックを測定し、新しい患者データを使用したモデルの将来の使用と比較して、グラウンドトゥルースデータからモデルドリフトを測定します。たとえば、これらのグループは、デジタル画像からの新しいバイオマーカーの検出と定量化のためにMSKのデジタル病理チームをサポートしました14。また、これらのグループは、脳の転移を分析するための新しい融合モデル（ビジョンと言語）の開発において、MSKの放射線情報情報チームをサポートしました。
これらのグループは、アクティブなディープラーニングベースのマルチモーダルモデリングサポートも提供します。プラットフォームグループは、MSKのAI開業医が使用するための情報セキュリティ、プライバシー、およびコンプライアンスによって承認された2つの生成AIの大規模な言語モデルサンドボックス環境を可能にしました。サンドボックスの1つは、識別されたデータの発見をサポートしています（個人の健康情報（PHI）および個人識別情報（PII）の剥奪）。 2番目のサンドボックスは、PHIデータの発見をサポートする安全でプライベートな環境です（研究のための適切な施設内審査委員会の承認を得て）。これらのグループの現在の焦点は、MLOPに必要な追加の技術サポートを可能にすることです（つまり、生産、統合、モデルドリフトの監視など、時間の経過とともにモデルの技術サポート）。
当社の将来のエンタープライズAIモデルレジストリは、Strategy Innovation＆Technology Developmentのデータサイエンスチームによって開発されました。これは、モデラーがモデル情報シートを送信するプロセスを簡素化する広く利用可能な形式の管理技術を使用しています。レジストリデータは、MSKのAI Practitionersとコンプライアンスのダッシュボードで浮上しており、これらのモデルとその運用ステータスに関する情報を調査します。
フェーズ2：実装 – 責任あるAIガバナンス方法
フェーズ2の次のステップは、データとAI開業医のフィードバックに基づいた反復改良プロセスでRAIガバナンスモデルを実装および成熟させることでした。 RAIガバナンスモデルの主な目標は、「AIの促進」と「AIの責任ある使用」のバランスをとることでした。これには、複数の目標にわたってバランスを打つことが含まれていました。これらの目的には、戦略に沿ったAIプロジェクト、AIの実践者が責任を持って開発および採用すること、AIの実践者が承認された開発および展開リソースに簡単にアクセスできること、および科学的自由が維持されること、AIの実践者が責任を持って採用すること、適切な優先事項が提供されることを保証することが含まれます。
AIGCの主要な活動には、アクティブガバナンスの「スコープ内」と見なされる臨床および手術の定義と更新 モデル摂取プロセス （別名「需要摂取」）。結果セクションで以下に詳述したように、次の新しいツールを開発または適応させました。モデル情報シート」（MIS;別名「モデルカード」）; モデルレジストリ （ノモグラムを含むAIモデルに関するMIS情報を含むリポジトリ）; リスク評価プロセス 取得および構築された社内のAIモデル用。 AIモデル ILEAPと呼ばれるライフサイクル管理プロセス、デュークAI Health36,37のアルゴリズムベースの臨床意思決定サポートABCDSモデルの修正バージョンに基づいています。ノモグラムは、さまざまな予後変数を備えた基礎となる統計モデルに基づいて、臨床イベントの数値またはグラフィカルな予測を生成する臨床的意思決定補助です。ライブモデルの完全なレビューを実施しました FDAソフトウェアAs-A-Medical Device（SAMD）規制コンプライアンス。基準ベースの「」を作成しました。エクスプレスパス「優先順位の高い衝撃モデルの速度速度を促進するためにベストプラクティスに従っているAI開業医にとって。
AIGCは、責任ある使用の一環として、ポートフォリオのモデルの安全性を優先します。したがって、モデル開発者は、MISの一部としてAIモデルの使用によって引き起こされる可能性のある予想される有害事象の信頼できるリストを提供する必要があります。品質と安全のワークグループは現在、収集するポストゴーリスモビギランス38へのアプローチをプロトタイピングしています ai誘発性副イベント（aiae’s） 自発的な報告システムを通じて。 MISの一部として、モデル開発者は、関連するユーザー（臨床医、管理者、研究者、または患者を含む）に期待される影響と利益を提供する必要があります。また、これらのAIモデルの使用と影響を監視する計画も必要です。予想される影響は、レジストリ内のすべてのモデルの全体的な価値と優先順位付けを評価するのに役立ちます。
最後に、Anを開始しました 啓発キャンペーン AIGCとその新しいプロセスは、組織全体の主要な利害関係者へのプレゼンテーションを備えています。 AGCの前後の年の方法とタイムラインに関する詳細については、表4を参照してください。
#腫瘍学における責任ある人工知能ガバナンス