トランプ政権は健康の不平等を自動化します

7月にリリースされたホワイトハウスのAIアクションプランは、「ヘルスケア」に3回だけ言及しています。しかし、それは第二トランプ政権の最も結果的な健康政策の1つです。 AIに対するその抜本的な野望 – バック保護ガードのロール、迅速な追跡」民間主導のイノベーション、」と禁止 「デイなどのイデオロギーの教義」– 医学の実践方法、公衆衛生がどのように統治されているか、誰が取り残されるかについて、長期的な結果をもたらします。

すでに、トランプ政権は政府のウェブサイトからのデータを削除し、疎外されたコミュニティに関する研究への資金を削減し、政府の研究者に政治的イデオロギーと矛盾する仕事を制限または撤回するよう圧力をかけました。これらのアクションは、単なる象徴的なものではありません。測定されたもの、研究された人、どの調査結果が公開されるかを形作ります。現在、これらの同じ制約がAI自体の開発に移行しています。管理者のポリシーの下で、開発者は設計の選択を行うか、データセットを選択するための明確なインセンティブを持っています。 政治的精査を誘発しません。

これらの信号は、今後数十年にわたって医学的意思決定を導くAIシステムを形成しています。続く技術的な選択の蓄積 – アルゴリズムにエンコードされ、プロトコルに埋め込まれ、何百万人もの患者に拡大されているため、この瞬間の特定のバイアスを医学の将来に固定します。そして、歴史は、バイアスが臨床ツールにエンコードされると、明らかな害が元に戻すのに何十年もかかることがあることを示しています。

AIツールは、アクションプランがリリースされる前に医学の隅々に浸透していました。放射線科医の支援、保険の処理、過労プロバイダーに代わってコミュニケーションさえしました。また、新しい癌療法と抗生物質の発見を迅速に追跡するために使用されている一方で、プロバイダーが個々の患者に調整するのに役立つ精密医療を進めています。 3分の2 2024年にAIを使用した医師のうち、前年から78％のジャンプ。まもなく、AIを使用して診断や治療を決定するのに役立たないことは、医療過誤と見なされる可能性があります。

同時に、AIの医学の約束は、技術の欠点によって制限されています。 1つのヘルスケアAIモデル 自信を持って 存在しない体の部分を幻覚化しました。もう1つは医師の手続きスキルを作るかもしれません 悪い。プロバイダーはAIツールのより強力な規制監視を要求しており、一部の患者は ためらう AIにデータを分析させる。

トランプ政権の目標 AIアクションプラン グローバルなAIアームレースでアメリカの覇権を維持することです。しかし、この計画はまた、最先端のAIモデルの開発者を促し、「イデオロギー的バイアス」や「ソーシャルエンジニアリングのアジェンダではなく客観的な真実を追求するように設計された製品を無料にする」と促します。このガイダンスは、開発者が曖昧なイデオロギーの手がかりを解釈し、静かに解釈しなければならないほど曖昧です キャリブレーション 彼らのモデルが言うことができること、見せ、さらには、決して明確に描かれていないラインを越えないようにすることさえできます。

一部の医療ツールには、ChatGptなどの大規模な言語モデルが組み込まれています。しかし、多くのAIツールは特注で独自のものであり、より狭い医療データのセットに依存しています。この政権が保健福祉省でのデータ収集を制限し、それらのデータがジェンダーと人種に関するアイデアに準拠することを保証することを目的としたことを考えると、ドナルドトランプのAIアクションプランの下で開発された健康ツールは、同様の原則を反映するトレーニングデータに依存するように圧力に直面する可能性があります。 （コメントの要求に応じて、ホワイトハウスの職員は、AI計画と科学的完全性に関する大統領の大統領命令を一緒にすることで、「政府の科学者は科学的意思決定において客観的で検証可能なデータと基準のみを使用し、AIのために契約する際に「政治的またはイデオロギーの存在に限定されない」と述べた。

モデルは、彼らが支配する世界を発明しません。それらは、私たちがそれらに与えるデータに依存し、反映しています。それがすべての研究科学者が早期に学ぶことです：ゴミ入り、ゴミ。そして、政府がAIモデルが医療慣行に組み込まれているため、正当な健康データと研究としてカウントされるものを狭めた場合、盲点はただ持続するわけではありません。彼らは悪化し、ケアの基準に石灰化します。

米国では、データのギャップはすでにAIツールの視点を制限しています。 Covidの最初の年の間、データ 人種 そして、民族性は死と予防接種の報告からしばしば欠落していました。パンデミック中に使用されるAIモデルに供給されたデータセットのレビュー 見つかった 同様に表現が不十分です。これらのギャップのクリーンアップは困難で高価ですが、アルゴリズムが既存の不平等を臨床コードに誤って組み込まないようにするための最良の方法です。長年の擁護と投資の後、米国は持っていました ついに 長年の閉鎖を始めました ギャップ 私たちがどのように健康を追跡し、誰がカウントされるか。

しかし、過去数ヶ月にわたって、そのタイプの脆弱な進歩は故意に巻き戻されました。時々、 CDC Webページは、疫学ではなくイデオロギーを反映するように書き直されています。国立衛生研究所は、「DEI」とラベル付けされたプロジェクトの資金を停止しました。 それに実際に含まれるもの。ロバート・F・ケネディ・ジュニアは、NIHの科学者に政府が運営するジャーナルでのみ公開させることについて騒ぎ立てました。 要求されました 厳密な研究の撤回、 内科の年代記、 それはアルミニウムと自閉症の間にリンクが見つかりませんでした。 （ケネディは反対の考えを促進しました：そのようなワクチン成分は自閉症の原因であるということです。）そして最近 大統領令 「大統領の政策の優先事項を前進させない」人々をキャンセルする権限を含む、研究助成金に対する政治的任命者の管理を提供します。データの選択的消去は、将来の健康決定の基盤となっています。

アメリカ医学は、以前にそのような不安定な基盤に基づいて構築することの結果を見てきました。日々の実践は、人種を生物学と混同する臨床ツールに長い間依存してきました。肺機能検査では、奴隷制時代のプランテーション医学に由来する人種補正を使用し、黒人患者の深刻な肺疾患の広範な診断につながりました。 2023年、 アメリカ胸部社会 レース中立アプローチの使用を促しましたが、採用は不均一であり、多くのラボとデバイスがまだレースベースの設定にデフォルトであることがあります。腎臓機能検査では、専門の紹介と移植の適格性を遅らせる人種係数を使用しました。産科 電卓 黒人とヒスパニック系の女性の間で不必要な帝王切開を増やす方法で人種と民族性を考慮に入れました。

レースベースの調整がソフトウェアのデフォルト、臨床ガイドライン、およびトレーニングに焼き付けられると、それらは何年もの間、かつて予測可能に持続します。今でも、時代遅れの仮定に依存する数十の欠陥のある意思決定ツールは、毎日使用されています。医療機器も同様の話をします。パルスオキシメーター 見逃すことができます 暗肌の濃い患者の危険なほど低い酸素レベル。 covidパンデミックの間、病院のトリエージングアルゴリズムに供給されたこれらの測定値は、治療と信頼の格差に導きます。欠陥のあるメトリックが「客観的な」ツールに組み込まれると、バイアスが練習、次にポリシーになります。

権力者がどのデータが重要であるかを定義し、出力が挑戦されていない場合、結果は悲惨なものになる可能性があります。 20世紀初頭、現代統計の創設者であるFrancis Galton、Ronald Fisher、Karl Pearsonは、優生学運動の建築家もいました。用語を生み出したガルトン 優生学、 先駆者 相関と回帰、およびこれらのツールを使用して、知性や道徳のような特性は遺伝性であり、選択的育種を通じて管理されるべきであると主張します。フィッシャーは、しばしば「現代統計の父」として歓迎され、英国の優生学会の積極的なリーダーであり、 そのポリシーを支持しました 「微妙な志向」とみなされる人々の「自発的な」滅菌の。ピアソン、の作成者 p-valueおよびchi-quaredテスト、設立 優生学の年代記 ユダヤ人移民が「寄生的な人種。」

これらの男性のそれぞれ、および優生学の動きを支援するより広範な医療および公衆衛生コミュニティのために、データの客観性のベニアは、偏見を政策に変えるのに役立ちました。 1927年の場合 バックv。ベル、最高裁判所は、公衆衛生の名の下に強制滅菌を支持したとき、彼らのアイデアを成文化しました。その決定は正式に覆されたことはありません。

多くのAIの支持者は、偏見の懸念が誇張されていると主張しています。彼らは、バイアスが長年にわたってフレットされており、ある程度は正しいことに注意してください。バイアスは常にAIモデルに存在していましたが、その効果はより限られていました。これは、システム自体が狭く展開されていたためです。最近まで、医学で使用されるAIツールの数は小さく、ほとんどはその中心ではなく、ヘルスケアの縁で動作していました。現在違うのは、この分野へのAIの拡大の速度と規模です。同時に、トランプ政権はAIを調節し、これらのモデルの将来を形作るためにガードレールを解体しています。

もちろん、人間のプロバイダーも偏っています。研究者は、女性の医学的懸念があることを発見しました 却下 多くの場合、男性よりも多くの場合、一部の白人医学生は、黒人患者が皮膚が太くなったり、痛みが少ないと誤って信じていると考えています。人間のバイアスとAIのバイアスは、トレーニング、透明性、および説明責任を通じて対処できますが、後者の道は、人間の誤りと技術自体の両方を説明する必要があります。技術的な修正が存在します – データ、レトレーニングモデル、バイアス監査 – が狭くなりますが、それらはしばしば狭くて不透明です。多くの高度なAIモデル、特に大きな言語モデルは機能的にです ブラックボックス：それらを使用することは、情報を供給し、出力を待つことを意味します。計算プロセスでバイアスが生成される場合、そのプロセスに依存する人々は、いつ、どのように導入されたかを知らないままになります。その不透明度はバイアスフィードバックループを促進します：AIは私たちが入れたものを増幅し、それから私たちが取り去るものを形作り、人間を残します より偏っています それを信頼してくれた。

特に既にバイアスされたデータセットに基づいている場合、ヘルスケアにおけるAIの「速い動きと壊れたもの」は、謎めいた自己強化のモデルに同様の仮定をエンコードします。誰もが欠陥を認識するまでに、彼らはただ式に焼かれることはありません。それらは、ケアのインフラストラクチャに消えないほど組み込まれます。