米国医学アカデミーは、ヘルスケアおよび生物医学科学における正確、安全、信頼性、倫理的な AI 変革が達成可能であるとするランドスケープレビュー、コード原則、およびコミットメントを発表しました。
同アカデミーが2006年から主導してきた取り組みであるリーダーシップ・コンソーシアムのラーニング・ヘルス・システムの中核原則に基づき、同団体は、その新しい枠組み草案がAIの開発、使用、継続的な評価における責任ある行動を促進すると述べた。
その中核となる理念には、包括的なコラボレーション、継続的な安全性評価、効率性、環境保護が必要です。
なぜ重要なのか
完全な 解説発表によると、ランドスケープレビューと「行動規範フレームワーク草案: コード原則とコードコミットメント」が含まれており、専門家の関係者からなる運営委員会の下、アカデミーの AI 行動規範イニシアチブを通じて開発されたという。
コードの原則と提案されたコードのコミットメントは、「複雑なシステムにおける動作を導き、評価するためのシンプルな道しるべを反映しており、AI の責任ある使用を促進するためのリアルタイムの意思決定と詳細な実装計画の出発点を提供します」と全米アカデミーは述べています。医学は言いました。
2023 年 1 月に開始されたアカデミーの人工知能行動規範イニシアチブでは、謝辞に記載されている多くの関係者が新しいフレームワーク草案の共同作成に参加しました。
アカデミー会長のビクター・ザウ氏は声明で、「AI技術が健康とヘルスケアを変革する可能性は非常に大きいが、不適切な使用が有害な影響を与える可能性があるという懸念がある」と述べた。
「医療におけるAIの使用に関する原則、ガイドライン、安全策を確立することが急務である」と同氏は付け加えた。
AI のガイドライン、フレームワーク、原則に関する既存の文献 (約 60 冊の出版物) の広範なレビューから始めて、編集者は、包括的なコラボレーション、継続的な安全性評価、および効率または環境保護の 3 つの矛盾領域を挙げました。
「これらの問題は、共通のビジョンを追求するシステムを統合する間質、つまり結合組織を構成するさまざまな利害関係者間での明確で意図的な行動の必要性を浮き彫りにするため、特に重要である」と研究者らは書いている。
彼らの解説では、誤診、リソースの過剰使用、プライバシー侵害、従業員の離職、または「AIへの過度の依存に基づく不注意」など、医療分野でのAI使用のさらなるリスクも特定されています。
同アカデミーは、フレームワークに含まれる10の規範原則と6つの規範コミットメントは、潜在的なリスクを最小限に抑えながらAIのベストプラクティスが人間の健康を最大化することを保証し、組織の大規模な改善をサポートするための「基本的な道しるべ」として機能すると述べた。
「これらの10原則にビジョンと活動の方向性を定める保健医療機関は、今日の課題と機会に直面して非常に重要なシステム全体の連携、パフォーマンス、継続的改善を推進するのに役立つだろう」とアカデミーは述べた。
米国医学アカデミー執行役員のマイケル・マクギニス氏は、「この新しい枠組みにより、AIの変革の可能性が健康と医療の分野で活用されるため、AIを安全かつ効果的かつ倫理的に利用できるようになる」と付け加えた。
Microsoft Research の社長であり、アカデミー運営委員会のメンバーである Peter Lee 氏は、アカデミーが次のようなことを招待していると述べました。 パブリックコメント （5 月 1 日まで）フレームワークを改良し、医療における AI の統合を加速します。
「このような進歩は、今日米国の医療現場で直面している障壁を乗り越え、すべての人にとってより健康な明日を保証する上で極めて重要です」とリー氏は述べた。
関係者からの意見に加えて、アカデミーは重要な貢献者をワークグループに招集し、ケーススタディでフレームワークをテストすると述べた。 また、アカデミーは、医療フレームワークにおける AI の最終的な行動規範を発表する前に、個人、患者擁護者、医療システム、製品開発パートナー、および政府機関を含む主要な関係者と協議する予定です。
より大きなトレンド
昨年、Coalition for Health AI は AIの青写真 これは、信頼の障壁やその他の AI の課題に対処するために患者中心のアプローチを採用し、アカデミーの AI 行動規範の周知に役立てました。
上に建てられました ホワイトハウスの AI 権利章典 および国立標準技術研究所の AIリスク管理フレームワーク。
「医療上の意思決定に影響を与えるAIツールの透明性と信頼性は、患者と臨床医にとって絶対に最重要だ」と、MITREのデジタルヘルス主任医師であり、CHAIの共同創設者で現在は最高経営責任者であるブライアン・アンダーソン博士はブループリントの発表の中で述べた。
ほとんどの医療指導者は、信頼が AI による医療提供と患者の転帰を改善する主な原動力であることに同意していますが、 医療システムは倫理的な AI をどのように実践すべきか 答えのない疑問が散りばめられた領域です。
「クリティカルアクセス病院や病院をどのようにサポートするかについて、国家として拡張可能な計画はまだありません。 [federally qualified health centers] あるいは、リソースが少なく、モデルのドリフトとパフォーマンスを監視するガバナンス委員会や非常に豪華なダッシュボードを立ち上げる能力がない医療システムです」と彼は語った。 ヘルスケアITニュース 先月。
記録上
ザウ氏は全米医学アカデミーの発表の中で、「新しい行動規範の枠組み草案は、AIの責任ある使用を通じて可能となる健康成果の向上と医療の画期的な進歩の恩恵を安全に享受するための道筋を築くための重要な一歩である」と述べた。
Andrea Fox は、Healthcare IT News の上級編集者です。
Eメール： [email protected]
Healthcare IT News は HIMSS Media の出版物です。