AIとサイバーの脅威は、患者の安全にリスクが高まることをもたらします

AIへの依存の増加とサイバー攻撃の持続的な脅威は、ヘルスケアで最も緊急の患者の安全性の課題の2つとして浮上しています。 報告 ecriから。 「患者の安全性の上位10件」レポートは、サイバーセキュリティ違反に起因するAIおよび医療上のエラーの不十分なガバナンスが患者ケアと病院の運用に深刻な結果をもたらす可能性があると警告しています。

これらの問題に関連するリスクは、ヘルスケアの急速なデジタル変革に起因しています。 AI駆動型の意思決定ツールは、適切な監視なしに臨床ワークフローに統合されていますが、病院を標的とするサイバー攻撃は、致命的な結果につながる可能性のあるケアの遅延を引き起こしています。

「これらの課題は、医療指導者からの即時の行動を要求します」と報告書は述べています。 「AIにガバナンスフレームワークを実装し、サイバーセキュリティ措置を強化しなかったため、何百万人もの患者が危険にさらされる可能性があります。」

ヘルスケアでのAIの役割の拡大は、未確認のリスクを示しています

AIはヘルスケアを再構築しており、効率と意思決定の改善を提供しています。 AIアプリケーションは、医療イメージング、臨床文書化、管理ワークフロー、さらには診断に使用されます。しかし、報告書は、適切なガバナンスがなければ、AIは気付かれない可能性のある体系的なエラーを導入し、誤診、治療の遅延、患者の転帰の悪化につながる可能性があると警告しています。

「AIモデルが不完全または偏ったデータセットでトレーニングされると、ヘルスケアの格差を強化し、臨床的に不適切な推奨事項を作成できます」と報告書は述べています。

主な懸念は、多くの病院がAIガバナンスに対する構造化されたアプローチを欠いていることです。病院の幹部の2023年の調査では、AIの使用とデータアクセスに関するシステム全体のポリシーがあると報告したのは16％だけでした。これは、ほとんどのヘルスケア設定では、AIが正式な監視メカニズムなしに採用されており、エラーのリスクを高めることを意味します。

もう1つの課題は、AI関連の間違いを検出するのが難しいことです。臨床的監視とトレーニングを通じて対処できるヒューマンエラーとは異なり、AI駆動型エラーは、透明性を欠くアルゴリズム内に埋葬されることがよくあります。このレポートは、AIベースの意思決定サポートツールが、誤った薬物剤の投与量を推奨し、患者の状態を誤分類し、重大な診断を検出できなかった場合を強調しました。

AIモデルは、人種、性別、社会経済的地位に基づいてバイアスを示すこともわかっている、と報告書は警告した。研究では、一部のAI駆動型の診断ツールは、黒人およびヒスパニック系患者の精度が低く、治療の遅延につながることが示されています。 「AIのバイアスは単なる技術の問題ではなく、患者の安全性の問題です」と報告書は述べています。 「介入がなければ、これらの格差は既存の医療の不平等をさらに拡大する可能性があります。」

医療機関は、これらのツールを臨床環境に展開する前に、AIモデルを監査し、潜在的なバイアスを特定するための積極的な措置を講じる必要があります。 「AIが本質的に目的であるという仮定は、危険な誤解である」と報告書は述べています。

これらのリスクにもかかわらず、ヘルスケアにおけるAIに対する国民の認識は慎重です。 2022年の調査では、米国の成人の60％が、医療の意思決定のためにAIに依存している医療提供者に不快感を感じると述べました。別の調査では、回答者の75％が、ヘルスケアでのAIの採用が速すぎて動いているという懸念を表明しました。

「AIへの信頼は脆弱です」と報告書は、医療執行者が言っていると引用しています。 「透明性と明確なガバナンスがなければ、患者とプロバイダーの両方がその使用に抵抗します。」

サイバー攻撃は病院の運用を混乱させ、ケアを遅らせます

また、このレポートは、サイバーセキュリティの脅威を患者の安全に対する危険性の高まりと特定しています。病院はサイバー犯罪者の主要なターゲットとなっており、データ侵害とランサムウェア攻撃により、医療セクター全体で事業を混乱させています。

2023年、米国のヘルスケア業界は725の大規模なセキュリティ侵害を経験し、1億3300万件以上の患者記録を損ないました。これらの違反は2009年以来ほぼ2倍になっている、と報告書は発見した。

結果はデータの損失を超えています。サイバー攻撃が病院のネットワークを無効にすると、患者のケアが直接影響を受けます。このレポートは、システムの停止が手順をキャンセルし、ラボの結果を遅らせ、投薬投与の混乱を引き起こした複数のケースを引用しました。 「サイバー攻撃のために電子健康記録がアクセスできない場合、臨床医は手動の文書化に依存することを余儀なくされ、医療エラーの可能性が高まります」と報告書は述べています。

2024年の主要なランサムウェア攻撃により、いくつかの病院は緊急患者を他の施設に迂回させることを余儀なくされ、命を救う治療の重大な遅延につながりました。 「サイバーセキュリティはもはやITの問題ではなく、患者の安全性の問題です」と報告書は述べています。

即時の患者ケアの混乱を超えて、サイバー攻撃はまた、医療システムに大きな財政的負担を課します。報告書によると、2024年のヘルスケアデータ侵害の平均コストは、米国で977万ドルに達しました。これは、他の業界での違反の2倍を超えています。

ヘルスケア組織は、サイバーセキュリティの準備に関する規制の精査の増加にも直面しています。報告書は、適切なセキュリティ対策の実施に失敗した病院は、法的措置、財政的罰則、評判の損害に直面する可能性があると警告しました。

サイバーセキュリティ違反の技術的側面は見出しを支配していますが、このレポートは、サイバー攻撃も最前線の医療従事者に重大な感情的な犠牲を払うことを強調しました。

「病院のネットワークがダウンすると、臨床医はストレスや燃え尽き症候群に対処しながらケアの継続性を維持するために急いでいる必要があります」と報告書は述べています。

2,300人以上の登録看護師を対象とした2024年の調査では、60％がAIおよびデジタルテクノロジーを実装する際に患者の安全性を優先することを雇用主に信頼していないことがわかりました。この不信は、サイバー事件に対応するという圧力と相まって、スタッフの欲求不満と疲労に貢献します。

「サイバーセキュリティの事件は、システムを混乱させるだけでなく、人々を混乱させるだけではありません」と報告書は病院のリーダーが言っていると引用しています。 「スタッフは、意思決定や患者の転帰に影響を与える可能性のある長期間にわたって危機モードで働いています。」

それを奪ってください

このレポートは、医療システムの幹部がこれらの差し迫った患者の安全性の懸念に対処するために取ることができるいくつかのステップの概要を示しています。

• AIガバナンス：AIアプリケーションを評価、実装、監視するための正式なガバナンス構造を確立します。
• バイアス緩和：AIモデルのバイアスを検出および緩和するために、ルーチン監査を実施します。
• サイバーセキュリティの準備：エンタープライズ全体のサイバーセキュリティプロトコルを実装し、定期的なドリルを通じて緊急対応計画をテストします。
• インシデントレポート：AI関連のエラーとサイバーインシデントが追跡され、分析されていることを確認して、患者の安全性を向上させます。
• 患者とプロバイダーの教育：AIがケアに関与している場合、AI駆動型のエラーを認識するために患者に患者に通知します。

積極的なガバナンスがなければ、AIおよびサイバーセキュリティの脅威は患者の安全性を損なう可能性がある、と報告書は警告した。 「ヘルスケアはデジタルイノベーションを採用していますが、安全性がペースを保つことを保証する必要があります」と報告書は述べています。 「テクノロジーは、新しい害の源ではなく、ケアを改善するためのツールでなければなりません。」