AIアクションプランがヘルスケアトラストに不足している場合

最近 オピニオンピース The Hill、Drsが発行。ジョン・ホワイトとマーガレット・ロゾヴァツキーが現在の米国政権を称賛する AIアクションプラン ヘルスケアAIへの信頼を築くためのエキサイティングな第一歩。

彼らは計画を主張している「透明で倫理的な屋外を通じて、AIテクノロジーに対する公的および専門的な信頼の構築に細心の注意を払っている」 [sic] 安全性、パフォーマンス、相互運用性のための国家基準を加速します。」

明確にするために、AIはヘルスケアに大きな期待を抱いています。また、診断と治療オプションにおけるAIイノベーションの加速、官民パートナーシップの拡大、相互運用性の強調など、賞賛に値する計画の側面があります。しかし、これらの利点は、計画が書かれたとおりに実施された場合、脆弱な集団に不釣り合いに影響を与える3つの重要な懸念によって隠されています。

統一された健康記録のプライバシーリスク

AIアクションプランの主要なセールスポイントは、患者がプロバイダーとより簡単に個人の健康情報（PHI）をより簡単に共有できるようにするデータ追跡システムの実装です。トレードオフは、大規模なハイテク企業が、以前は患者、医療提供者、保険会社とのみ共有されていた詳細にアクセスできることです。

このシフトは、サイバー犯罪者の魅力的なターゲットになるシステムで、診断、処方、ラボの結果など、膨大な量の機密医療データを集中化することにより、リスクを生み出します。個々の慣行での孤立した違反とは異なり、統一された記録の妥協は、数百万人の患者の最も敏感なデータを同時に公開する可能性があります。

これらのリスクの影響を最も受けているのは、コミュニティヘルスセンターのようなサイバーセキュリティリソースが少ないプロバイダーに依存している患者です。これらの患者も少ない傾向があります デジタルリテラシー そして、精神的健康または遺伝データの違反後の雇用や保険の否定など、健康に基づく差別から大きな結果に直面しています。

書かれているように、この計画は、この規模でAI駆動型の健康データシステム向けに設計されていない既存の規制を超えた保護手段をほとんど提供していません。より強力な暗号化基準、必須の違反通知のタイムライン、およびPHIの明示的な保護がなければ、データ共有の利便性は、患者のプライバシーに対する容認できないリスクになります。

あいまいな基準と懲罰的アプローチ

効果的なAIガバナンスには、明確で堅牢な規制基準が必要です。私の意見では、統一された連邦政府の枠組みは、米国が現在運営している州ごとのパッチワークよりも、ヘルスケアAIの方が良いでしょう。しかし、AIアクションプランが患者の安全を犠牲にして規制緩和を推進することを考えると、「負担の多いAI規制」で国家を罰する限り、今では連邦政府の枠組みの時ではありません。

それから、先月HR 1からAIのモラトリアムを削除するために上院の投票を圧倒的に見ることは奨励されていました。しかし、AIアクションプランは、実際に負担がかかるものや厄介なものと見なされるものを定義することなく、「面倒な」ルールの除去を求めることにより、反対のアプローチを採用しています。

この曖昧なアプローチは、計画の述べられた哲学を考えると、より懸念されるようになります。「ビルド、ベイビー、ビルド」のメンタリティは、安全よりも速度を優先する「ビルド、ベイビー、ビルド」のメンタリティです。このようなアプローチは、他の業界よりも利害関係が高いヘルスケアに特定のリスクを生み出します。このフレームワークの下で、イリノイ州のような状態は、ちょうど立法を可決しました メンタルヘルスの決定のためのAIの使用を禁止します、患者の保護を削除する「赤いテープ」としてではなく、不可欠なものとして扱うことに対する罰則に直面する可能性があります。

さらに、この計画は、展開後にAIシステムの監視方法に対処することに失敗し、監視を自発的な業界の慣行に任せています。 AIアルゴリズムは時間の経過とともに学習と変化を続けているため、患者のケアの質に影響を与える可能性のある新しいバイアスまたはエラーを開発する義務があります。堅牢な監視要件がなければ、患者は、特にリソースが少ないコミュニティでは、AIシステムの進化の無意識の被験者になります。

自発的な業界の監視に頼る代わりに、ヘルスケアは、AIのパフォーマンスを監視し、アルゴリズムの意思決定をより透明にし、多様な患者集団を検証する明確に定義された規制のより厳格な施行の恩恵を受けるでしょう。これらの保護は、AIシステムが失敗したときに代替ケアを求めるリソースをしばしば欠いている脆弱なコミュニティにとって特に重要です。

医療格差の増幅

最後に、この計画は、監視フレームワークから多様性、公平性、および包含（DEI）要件を削除することにより、AIバイアスに関する懸念を却下します。しかし、ヘルスケアでは、アルゴリズムバイアスは政治的ではありません。これは、患者の安全性の問題であり、既に十分なサービスを受けていないコミュニティに居住しています。

この悲劇の最もよく知られている例は、AIモデルが主に白人患者からのデータをどのように訓練したかです 過小評価された乳がんリスク 実際に病気を発症するリスクが高い黒人女性。これにより、追跡スキャンが少なくなり、診断されていないまたは未治療の未治療の乳がんの症例が増え、健康の結果が悪化し、黒人女性の死亡率が高いことに貢献した可能性があります。

これは孤立したケースではありません。複数のヘルスケアアプリケーションにわたって同様のバイアスが文書化されています。 黒人患者の不快感 見逃した診断アルゴリズムへ 女性の心臓病。しかし、計画がすべてのものを削除することは、これらのバイアスが新しいヘルスケアAIシステムに組み込まれないように、組み込みのチェックとバランスがないことを意味します。

多様な集団全体でアルゴリズムをテストする義務がなければ、そのような格差はAIの採用が加速するにつれて広まられます。

キーテイクアウト

書かれているように、AIアクションプランは、患者の安全が要求する厳密で公平に焦点を当てたAIガバナンスの種類を積極的に阻止します。コースを修正せずに、ヘルスケアAIは、ケアの質とアクセスの既存のギャップを閉じるのではなく、拡大するリスクがあります。

これは、厄介なダイナミクスによって豊富に明確にされています。AIのリスクから脆弱な患者を保護しようとすると、「負担の多い」規制を維持するために連邦政府の財政的罰則に直面する可能性があると述べています。これにより、より強力な保護が最も必要な場合、国家は基準を正確に下げるように事実上圧力をかけます。

不十分なプライバシーセーフガードは、体系的な脆弱性を悪化させるだけです。米国の既存の健康格差を増幅するのではなく対処するには、廃止とバイアス予防メカニズムを強化する必要があり、排除されません。

写真：Narvo Vexar、Getty Images

この投稿はを通して表示されます Medcityインフルエンサー プログラム。誰でも、Medcityインフルエンサーを通じて、Medcity Newsのヘルスケアのビジネスとイノベーションに関する視点を公開できます。 方法を調べるには、ここをクリックしてください。