責任ある人工知能の定義に関する合意形成から、半自律型医療 AI のユースケースについての取り組みに至るまで、2025 年に向けて二極化した時代においてさえ、産業界と政府は共通の価値観に向かって進んでいるように見える、とヘルスケア AI 連合は述べていますCEOのブライアン・アンダーソン氏。
「私たちは政策立案者や規制当局が、責任あるAIが健康においてどのようなものであるかについて民間部門で開発されているこの種の枠組みを理解し、それを中心とした規制の枠組みを開発する必要がある」とアンダーソン氏は説明した。 ヘルスケアITニュース。
現在までの一致
テクノロジー業界と連邦医療規制当局は、AI モデル カード、つまり「AI 栄養ラベル」について多くの検討を行ってきました。これは、ユーザー向けの AI モデル開発の重要な側面を特定するために使用される、わかりやすいコミュニケーション形式です。
CHAIが木曜日に発表したとき、 ドラフト AI モデル カードのオープンソース バージョンでは、連合の最近の経験と、ヘルスケア AI を安全に普及させるための官民枠組みの開発において近い将来に何が起こるかについてアンダーソン氏に話を聞きました。
同氏は、「民間部門のイノベーションコミュニティの目指す方向と公共部門の規制コミュニティの方向性が一致しているのは素晴らしいことだ」と述べた。
CHAIは今月、オープンソースのドラフトモデルカードに関するフィードバックを求めているが、このカードは国家医療技術調整官局の医療データ、技術、相互運用性:認証プログラムの更新、アルゴリズムの透明性と情報規則から「流れてくる」もので、今後6か月以内にアップデートを展開する計画で、アンダーソン氏は、さまざまな規制当局が同じ方向に進み、そして今後も同じ方向に進むことを期待していると述べた。
具体的には、医療機器規制当局とAI要件に関するある程度の調整を挙げた。
今週初め、米国食品医薬品局は自主的な AI モデル カードの例をその報告書に含めました。 製品ライフサイクル全体の推奨事項の草案 – AI 対応デバイスの設計、開発、メンテナンス、および文書化。
「FDA のサンプル モデル カードを見て、そして確かに ONC の HTI-1 ルール – それは、CHAI のモデル カードが両方に非常によく一致しているということです」とアンダーソン氏は言いました。
FDA によると、AI 対応医療機器のモデル カードは、患者、臨床医、規制当局、研究者などの医療ユーザーと一般の人々に重要な情報を提示する際のコミュニケーションの課題に対処できるとのことです。
FDAはガイダンス草案で「モデルカードの使用によりユーザーの信頼と理解が高まることが研究で実証された」と述べた。 「これらは、AI 対応デバイスの重要な側面を一貫して要約する手段であり、その特性、パフォーマンス、制限を簡潔に説明するために使用できます。」
ヘルスケア AI 規制の一例として、これは FDA 規制当局が AI の使用に関する信頼を構築する作業においてどこに向かっているのかを示しています。
「しかし、民間部門と公共部門の利害関係者グループは、互いに情報を提供しながら協力して取り組む必要がある」とアンダーソン氏は述べた。
質問されると、同氏は次期政権について「私が上院や下院で話した指導者は皆、CHAIのような組織と官民パートナーシップをどのように結べばよいのか理解することに非常に興味を持っている」と指摘した。
AI保証ラボとその機能に関する政府と業界の連携など、より厳格なヘルスケアAIタスクを継続する扉は開かれているが、「作業はまだ行われる必要がある」とアンダーソン氏は述べた。
「私たちにはそれを行う時間が必要であり、次期政権が私たちと協力し協力してくれることに感謝し、できればその時間を提供してくれることを願っています。とても新鮮で、とても興奮していると思います。」
年次ラベル更新と IRL の使用
アンダーソン氏は、CHAIのモデルカードは「特に生成AI分野で新たな機能が出現する際の、生き生きとしたドキュメント」となることを目的としていると述べた。
同氏は、「これらの新たな機能を評価するために使用する指標や方法論は、変更する必要があるか、作成する必要がある可能性が非常に高い」と述べた。
FDA が医療機器のトータル ライフサイクル ガイダンス草案を発行する前から、 所定の変更管理計画のレビューを完了しました AI および機械学習の提出に – 新しいマーケティング提出の必要性を引き起こすことなく。
「モデルカードのさまざまなセクションについて考えると、さまざまな評価結果、さまざまな指標、さまざまな種類のユースケースなど、さまざまなデータを含める必要があります」とアンダーソン氏は述べています。
同氏はさらに、「そのような柔軟性は非常に重要になるだろう」と付け加え、AIモデルやシステムの栄養表示は「少なくとも年レベルでは確実に」定期的に更新する必要があると指摘した。
医療従事者にとって、間違いや見落としを最小限に抑えるために AI 対応の臨床意思決定支援ツールを使用する際には、非常に複雑な点を考慮する必要があります。
同氏は「不完全な透明性はわれわれが苦戦することになるだろうし、再度取り組む必要がある」と強調した。
特定の患者に関連する可能性のある特定の属性セットに基づいてモデルがトレーニングされたかどうかは、ユーザーフレンドリーなモデル カードに含まれていない場合があります。
「これらのモデルカードには、あらゆる情報を含めることができますが、ベンダーコミュニティは（知的財産を）開示するリスクにさらされることになります」と同氏は述べた。 「つまり、ベンダーの知的財産をどのように保護するかというバランスですが、顧客 (この場合は医師) に、抱えている患者にそのモデルを使用すべきかどうかについて正しい決定を下すために必要な情報を提供するかが重要です。彼らの前で」とアンダーソンは語った。 [intellectualproperty”hesaid”Soit’sabalanceofhowdoyouprotecttheIPofthevendorbutgivethecustomer–thedoctorinthiscase–thenecessaryinformationtomaketherightdecisionaboutwhetherornottheyshouldusethatmodelwiththepatienttheyhaveinfrontofthem”Andersonsaid
「それが目の前の患者の特定の結果にどのような影響を与えるかという因果関係は非常に深い」と同氏は認めた。
他の人を AI 評価テーブルに参加させる
電子医療記録やその他の認定された医療 IT を対象とした HTI-1 の 31 のカテゴリー領域は「非常に優れた出発点である」ものの、特に消費者直販分野における AI のさまざまなユースケースには十分ではないと同氏は述べた。アンダーソン。
「私たちが開発しているモデルカードは、さまざまなユースケースで非常に広範囲に使用されることを目的としており、消費者分野、特に生成 AI では、来年にかけてたくさんの新しいユースケースが登場するでしょう。 」と説明した。
しかし、今後 2 年から 5 年の間に、ヘルスケア AI モデルの評価はさらに複雑になり、「人間の繁栄」をどのように定義するかについて疑問が生じます。
アンダーソン氏は、ユースケースは医療 AI エージェントと密接に結びつくと考えており、それらを中心とした信頼フレームワークの開発には、技術者や AI 専門家にアドバイスを与える「倫理学者、哲学者、社会学者、精神的指導者」の支援が必要になるだろうと述べた。それらのツールの評価フレームワークを検討します。
「エージェント型 AI の将来において、評価のためのフレームワークのようなものを開発するのは、大きな課題になるでしょう」と彼は言いました。 「これは非常に親密な個人的な空間です。モデルとの信頼関係をどのように構築すればよいでしょうか?モデルをどのように評価すればよいでしょうか?」
アンダーソン氏は、来年からCHAIが「コミュニティのメンバーと、このような取り組みに含める利害関係者の種類について必ずしも最初に考えていないような利害関係者を結びつけるための非常に意図的な取り組み」の先頭に立つと述べた。
「これらのモデルが私たちの価値観と一致していることを本当に確認する必要がありますが、モデルをどのように評価するかについてのルーブリックはありません。私にはまだそれを行う方法がわかりません。まだ誰も理解していないと思います。 。」
Andrea Fox は、Healthcare IT News の上級編集者です。
電子メール: [email protected]
Healthcare IT News は HIMSS Media の出版物です。