UCSF Health と UCSF 臨床情報科学およびデジタル変革部門は、ケン・ハオ氏とキャシー・ハオ氏からの 500 万ドルの寄付により、ツールが意図した結果を達成しているかどうか、あるいは改善が必要かどうかを継続的に報告するプラットフォームを構築することで、臨床ケアで使用される人工知能の有効性と安全性を確保することを目指しています。
研究者らは、このプラットフォームはツールが潜在的に危険であったり、健康格差を悪化させるリスクがある場合には警告を発し、必要に応じて即時の対応を促すと述べた。
なぜそれが重要なのか
USCF Health と DoC-IT は、臨床ケアにおける AI の影響監視プラットフォームと呼ばれる IMPACC を設計し、臨床上の意思決定と患者ケアにおける人工知能の有効性、および患者の健康への潜在的なリスクと健康格差の悪化について報告します。
UCSF HealthはIMPACCを開発したら、現在臨床ケアに使用されている一連のAIツールでその使用をテストする予定であると、 発表 研究者より。
UCSF DoC-ITの責任者であるジュリア・アドラー・ミルスタイン氏と、UCSFヘルスの最高医療AI責任者であるサラ・マレー博士は、UCSFでの患者ケアを改善し、実際の使用におけるAIツールの評価方法に関する科学を進歩させるための共同作業を主導すると、彼らは述べた。
「IMPACCを構築することで、医療におけるAIのパフォーマンスを分析する方法が大きく前進するだろう」とマレー氏は声明で述べた。
「新しい AI テクノロジーを導入するにあたり、この斬新でスケーラブルなプラットフォームは、私たちの医療システムに、進行中のパフォーマンスに関する直接的で実用的な洞察を提供し、これらの新しいツールの有効性だけでなく、システム全体の安全性と患者の利益も確保します。」
研究者らは、このプラットフォームは、医療リーダーが特定の AI ツールの使用を拡大または中止する決定を下す際にガイドとしても使用されるだろうと述べた。私たちは UCSF に連絡を取り、IMPACC がテストされ使用可能になったら、他の医療システムでも利用可能になるかどうか尋ねた。回答があれば、この記事を更新します。
より大きなトレンド
研究者らは、ヘルスケアには継続的な AI 監視のための確立されたプロトコルがないため、医療システムには、長期にわたる監視とエスカレーションおよび人間による介入の特定の基準を使用して、実際のパフォーマンスにおける問題をリアルタイムで特定する方法が必要であると指摘した。
医療 AI がうまく機能しない場合、患者や医療提供者に悪影響が出るリスクが検知されず、医療機関、医師、患者、立法者など多くの人々が懸念しています。
「この強力で急速に変化する技術を中心に構築された新しい常態について、多くの正当な懸念がある」とメイヨー・クリニック・プラットフォームの医療ディレクターであり、病院内科の上級准コンサルタントであるソニア・マクニ博士は語った。 ヘルスケアITニュース 今年初めに。
メイヨー・クリニック・プラットフォームは、AIを使用する前にAIを評価するリスク分類システムを開発しているが、AIアルゴリズムを採用している医療システムは「バイアスが潜在的に導入される可能性がある場所を理解するためのフレームワークとしてAI開発ライフサイクルを使用する必要がある」と彼女は医療リーダーにアドバイスした。 AIの安全な利用を考える。
「ソリューション開発者とエンドユーザーの両方が、リスクの観点から AI ソリューションを最大限考慮して構築する責任があります。」
記録に残る
「この慈善寄付は多くの点で変革をもたらす」とアドラー・ミルスタイン氏は声明で述べた。「医療業界がAIを臨床診療に幅広く取り入れる中で、これは重要な節目に行われる」
「これはUCSFとUCSF HealthのAIモニタリングに関する初の提携だ」とUCSF Healthの社長兼最高経営責任者であるスレシュ・グナセカラン氏は付け加えた。
「私たちは協力して、AIツールのパフォーマンスと臨床的影響をリアルタイムで可視化できる、米国の医療システム全体にわたる初の効果的なモデルプラットフォームを構築できる独自の立場にあります。」
Andrea Fox は Healthcare IT News の上級編集者です。
Eメール： メールアドレス
Healthcare IT News は HIMSS Media が発行する出版物です。