CHAI、責任あるAIフレームワークを一般からの意見募集のために公開

Coalition for Health AI は、医療における人工知能の責任ある開発と展開のための枠組みの草案を発表しました。

CHAIによると、このフレームワークは標準ガイドと一連のチェックリストで構成されており、2年以上かけて開発されたもので、医療におけるAIが、十分なサービスを受けていないコミュニティや代表性が低いコミュニティのグループを含むすべての人々に利益をもたらすことを保証するための、合意された標準と実用的なガイダンスの緊急のニーズに対応するものだという。

現在、 60日間の公開レビューおよびコメント期間。

なぜそれが重要なのか

2021年12月にローンチしたCHAIは、以前に 信頼できる AI の青写真 2023年4月に、主要な学術医療センター、地域の医療システム、患者擁護団体、連邦政府機関、その他の医療およびテクノロジーの利害関係者の専門家による合意に基づく取り組みとして開始されます。

CHAIは水曜日の発表で、新しいガイドはブループリントの原則と連邦政府機関のガイダンスを組み合わせたものであり、チェックリストは日常の運用プロセスに保証基準を適用するための実行可能な手順を提供していると述べた。

機能的には、保証標準ガイドは、ヘルスケアにおける AI 導入に関する業界で合意された標準を概説しており、保証レポート チェックリストは、ユースケースの特定、ヘルスケア AI 製品の開発、導入と監視に役立ちます。

CHAIによると、これらの文書の設計の根底にある原則は、米国医学アカデミーのAI行動規範、ホワイトハウスのAI権利章典の青写真、米国国立標準技術研究所のいくつかのフレームワーク、および米国保健福祉省戦略的準備対応局のサイバーセキュリティフレームワークと一致している。

CHAIの最高経営責任者であるブライアン・アンダーソン博士は、公開レビューとコメント期間の重要性を強調し、 効果的、有用、安全、安心、公平、公正なAI。

「このステップは、医療エコシステム全体にわたる合意に基づくアプローチが医療のイノベーションをサポートし、AIが私たち全員に役立つという信頼を構築できることを実証するだろう」と同氏は声明で述べた。

このガイドは、医療 AI のライフサイクルに関する共通言語と理解を提供し、医療ワークフロー内で AI を設計、開発、展開する際のベストプラクティスを探ります。また、ドラフトのチェックリストは、医療 AI ソリューションのライフサイクル全体にわたる独立したレビューを支援し、ソリューションの有効性、有効性、安全性、偏りの最小化を保証します。

このフレームワークでは、考慮事項とベスト プラクティスを示す 6 つのユース ケースが提示されています。

1. 予測的なEHRリスク（小児喘息増悪）
2. 画像診断（マンモグラフィー）
3. 生成AI（EHRクエリと抽出）
4. 請求外来（ケアマネジメント）
5. 臨床業務および管理（医療コーディングによる事前承認）
6. ゲノミクス（ゲノムマーカーを用いた精密腫瘍学）

CHAIは、チェックリストを適用した結果を公表することで透明性が確保されると指摘した。

同連合の編集委員会は、5月にスタンフォード大学での公開フォーラムで発表されたガイドとチェックリストを検討した。

CHAI参加者の一人、ラティーナがん研究所の創設者兼事務局長イザベル・デュロン氏は声明の中で、「偏見や差別、意図しない有害な結果に対する予防策」を提供するためには、多様で多部門にわたる患者の声の連携と関与が必要だと述べた。

「AIは、ラテン系の患者と医療専門家にとって、障壁を克服し、医療へのアクセスの格差を埋める強力なツールとなり得るが、我々が参加しなければ害を及ぼす可能性もある」と彼女はCHAIの発表で述べた。

より大きなトレンド

下院エネルギー・商務保健小委員会で初めて取り上げられた 聴覚 先月、米国食品医薬品局が医療機器やその他の生物製剤の規制について議論したことを受けて、現在ではより多くの議員が FDA とメディケア・メディケイド・サービスセンターに対し、医療 AI の使用と監督について質問している。

ザ・ヒル 火曜日、下院と上院の議員50人以上が 監視強化を求めた メディケアアドバンテージの保険適用決定に人工知能を活用する一方で ステータス 共和党からの手紙を受け取ったと述べた FDAとCHAIの提携を批判。

アイオワ州共和党議員のマリアンネット・ジェーン・ミラー・ミークス博士は5月22日の公聴会でFDAに対し、AI認証をCHAIに外注するかどうかを質問した。同博士は、CHAIは多様性に欠け、「規制を捕らえようとする明らかな兆候」を示していると述べた。

「臭いテストに合格しない」と彼女は言った。

医療機器・放射線保健センター所長のジェフ・シュレン博士はミラー・ミークス氏に対し、CDRHは連邦政府の連絡役としてCHAIや他のAI業界連合と関わっており、申請審査のために同組織と関わることはないと語った。

「我々はCHAIに対しても、医療技術分野での代表者を増やす必要があると伝えた」とシュレン氏は付け加えた。

記録に残る

「AIアルゴリズムの有用性を定量化する共通の方法は、患者と医療システムに対するAIの潜在能力を最大限に引き出すことに役立つ」と、CHAIの共同創設者で理事、スタンフォード・ヘルスケアの主任データサイエンティストでもあるニガム・シャー博士は声明で述べた。「このガイドは、患者擁護者、臨床医、技術者を含む2,500人からなるCHAIコミュニティの総合的な合意を反映している」

Andrea Fox は Healthcare IT News の上級編集者です。
Eメール： メールアドレス
Healthcare IT News は HIMSS Media が発行する出版物です。

HIMSSヘルスケアAIフォーラムは開催される予定 9月5日〜6日 で ボストン。 詳細と登録。