ECRI の年次医療技術危険リストのトップに新たなリスク: AI

世界的な医療安全機関 ECRI は、20 年近くにわたり、医療技術上の危険トップ 10 のリストを発表しています。今年のトップは、ヘルスケアに大きな期待を寄せる急速に変化するテクノロジーですが、下振れリスクにも事欠かない人工知能です。

なぜ重要なのか
ECRIは、「AIは効率と転帰を改善する可能性を秘めているが、適切に評価、管理されなければ患者に重大なリスクをもたらす」と述べた。 2025年のレポートを発表。

「AI は、医療画像における初期のアプリケーションから拡張され、診断、文書化、予約スケジュールなど、医療の事実上あらゆる分野に影響を与えています。医療機器として規制されていない補助システムを含む AI アプリケーションでさえ、患者ケアに重大な影響を与える可能性があります。 」ECRIによると。

もちろん、特に懸念されるのは、AI の幻覚や、不適切に調整されたアルゴリズムからの誤解を招くフィードバックです。機械学習モデルの出力は、特にモデルが偏ったデータに基づいてトレーニングされている場合、患者集団によって大きく異なる可能性があり、過小評価されている、または十分なサービスを受けていないコミュニティでは健康の公平性と患者の安全にリスクをもたらす可能性があると研究者は指摘しています。

ECRI による 2025 年の医療技術上の危険トップ 10:

1. AI を活用した医療テクノロジーのリスク。

2. 在宅医療患者に対するテクノロジーサポートのニーズが満たされていない。

3. 脆弱なテクノロジーベンダーとサイバーセキュリティの脅威。

4. 規格外または不正な医療機器および消耗品。

5. 酸素補給による火災の危険性。

6. 麻酔装置のデフォルトのアラーム制限値が危険なほど低い。

7. 薬の注文の一時保留が誤って処理された。

8. 不十分に管理された輸液ライン。

9. 有害な医療用接着剤製品。

10. 輸液システムのインシデントの調査が不完全。

ECRIは、医療技術上の危険を「特定の状況下で患者やユーザーを危険にさらす可能性のあるデバイスまたはシステムの障害、設計機能、または使用方法」と定義しています。

このグループは、「安全に対するトータル システム アプローチ」と呼ばれるものを採用しており、医療従事者、管理者、機器メーカー、政策立案者、研究者、患者自身がケア提供中に予防可能な危害を引き起こす事故を減らすことを支援することを目指しています。

そのチームは、医療現場でのテクノロジー導入に影響を与え、そこから派生する人的要因、エンジニアリング、デバイスの安全性、医薬品の安全性、感染制御などのさまざまな側面に焦点を当て、システム全体の安全性ソリューションを推奨するよう取り組んでいます。

ECRIは、毎年リストに挙げられるトピックや技術は「必ずしも最も頻繁に報告される問題や、最も深刻な結果に関連する問題ではない」と指摘しているが、これらの要素は考慮すべき中心的な要素である。

その代わりに、年次報告書には「医療提供者や機器メーカーなどが患者の安全への取り組みを優先するために、今どのリスクに注意を払う必要があるか」についての判断が反映されている。

ECRI 会員向けの完全な医療技術危険トップ 10 レポートには、医療システム、ベンダー、その他の IT リーダーが患者の安全に対するリスクを軽減するために講じる詳細な手順が記載されています。エグゼクティブブリーフにアクセスする ここ。

より大きなトレンド
ECRIの2024年のリスト 似たようなテーマがいくつかありました、遠隔患者モニタリングやその他の在宅医療機器に関連するリスク (#1) と AI の不十分なガバナンス (#5) に焦点を当てています。ここ数年は、次のような危険性が注目されてきました。 輸液ポンプとソフトウェア管理のギャップ そしてもちろん、 ランサムウェアなどのサイバーセキュリティの脅威。

記録上
ECRIの社長兼最高経営責任者（CEO）のマーカス・シャバッカー博士は声明で、「人工知能の機能が期待されても、そのリスクや患者や医療提供者に害を及ぼす能力から私たちの気をそらしてはいけない」と述べた。 「AI のイノベーションとプライバシーと安全性のバランスを取ることは、現代医療の中で最も困難かつ最も決定的な取り組みの 1 つとなるでしょう。

「AIの良さは、与えられたデータとその使用を管理するガードレールによって決まる」と同氏は付け加えた。 「あらゆるレベルの医療関係者は、他の新しいテクノロジーと同様に、AI の統合について批判的に考える必要があります。」

Mike Miliard は Healthcare IT News の編集長です
ライターにメールを送信します: [email protected]
Healthcare IT News は HIMSS の出版物です。