政策立案者は医療分野における AI の台頭に追いつこうとしている

ワシントンの議員や規制当局は、医療分野で人工知能をどのように規制するかについて困惑し始めているが、AI業界は人工知能が混乱を招く可能性が高いと考えている。

「それは信じられないほど困難な問題だ」と彼は言った ロバート・ワハター博士、カリフォルニア大学サンフランシスコ校医学部長。 「銃を乱射して入ってきて過剰規制をするリスクがある。」

すでに、医療に対する AI の影響は広範囲に及んでいます。 食品医薬品局 承認しました 692 AI 製品。 アルゴリズムは、患者のスケジュール設定、緊急治療室の人員配置レベルの決定、さらには医師の時間を節約するために臨床訪問を書き起こして要約するのにも役立ちます。 彼らは放射線科医を助け始めています MRIやX線を読む。 Wachter 氏は、時々非公式に次のバージョンを参照すると述べました。 GPT-4、同社の大規模な言語モデル OpenAI、複雑なケースの場合。

AI の影響範囲と将来の変化の可能性を考えると、政府はすでに巻き返しを図っていることになります。

「政策立案者はひどく時代に乗り遅れている」 マイケル・ヤンとベンチャーキャピタル会社OMERS Venturesのシニアマネージングパートナーが電子メールで述べた。 ヤン氏の同僚はこの分野に巨額の投資を行ってきた。 岩の健康ベンチャーキャピタル会社の、金融業者は人工知能を専門とするデジタルヘルス企業に280億ドル近くを投じたと述べている。

ワハター氏によると、規制当局が取り組んでいる問題の一つは、5年後も現在と同じ化学的性質を持つ医薬品とは異なり、AIは時間の経過とともに変化するということだという。 しかし、ホワイトハウスと複数の健康関連機関が透明性とプライバシーを確保するためのルールを策定するなど、ガバナンスが形成されつつある。 議会も関心を示している。 上院財政委員会は先週、医療におけるAIに関する公聴会を開催した。

規制や法律に伴い、ロビー活動も増加しています。 CNBC 185%の急増を数えた 2023 年に AI ロビー活動を開示する組織の数が増加。業界団体 TechNet は、人工知能の利点について視聴者を教育するために、テレビ広告の購入を含む 2,500 万ドルの取り組みを開始しました。

「私たちはテクノロジーの発明段階に非常に初期段階にあるため、AI を賢く規制する方法を知るのは非常に困難です。」 ボブ・コーチャーと、以前オバマ政権で勤務していたベンチャーキャピタル会社ベンロックのパートナーは電子メールで述べた。

コッヘル氏はAI規制について上院議員らと話し合っている。 同氏は、医療システムが製品を導入する際に直面するであろういくつかの困難を強調した。 医療過誤のリスクに直面している医師は、臨床上の意思決定を行うために理解していないテクノロジーを使用することに不安を感じるかもしれません。

コンサルタント会社キャピタル・エコノミクスが1月の国勢調査局のデータを分析したところ、ヘルスケア企業の6.1％が今後6カ月以内にAIの利用を計画しており、これは調査対象となった14業種のほぼ中央に位置することが判明した。

他の医療製品と同様に、AI システムは、時には斬新な方法で患者にリスクをもたらす可能性があります。 一例: 物事をでっち上げる。

Wachter 氏は、テストとして OpenAI の GPT-3 を割り当てて、意図的に「奇抜な」処方箋、つまり患者の不眠症を治療するための抗凝血剤の保険会社への事前承認書を作成させた同僚のことを思い出しました。

しかし、AIは「美しいメモを書きました」と彼は言いました。 このシステムは「最近の文献」を非常に説得力をもって引用していたので、ワハター氏の同僚は、新しい研究分野を見逃したのではないかと一瞬疑問に思った。 チャットボットが主張を捏造していたことが判明した。

AIのリスクもある 拡大バイアス すでに医療システムに存在しています。 歴史的に、有色人種は白人の患者よりも治療を受けてきませんでした。 たとえば、骨折のある黒人患者は白人患者に比べて鎮痛剤を投与される可能性が低いことが研究で示されています。 人工知能がそのデータに基づいてトレーニングされ、その後そのデータに基づいて動作する場合、このバイアスは固定化される可能性があります。

AIの研究 大手保険会社が導入 それが起こったことを確認しました。 しかし、問題はさらに広範囲に広がっています。 ワハター氏は、UCSFが臨床予約のノーショーを予測する製品をテストしたと述べた。 来院する可能性が低いと判断された患者は、二重予約される可能性が高くなります。

このテストでは、有色人種の人は表示されない可能性が高いことがわかりました。 発見が正確であったかどうかにかかわらず、「倫理的な対応は、なぜそうなのか、何かできることはないかと問うことだ」とワハター氏は語った。

誇大宣伝はさておき、こうしたリスクは今後も注目を集め続けるだろう。 AIの専門家やFDA関係者は、規制当局や外部の研究者など人間によって長期にわたって監視される透明性の高いアルゴリズムの必要性を強調している。 AI 製品は、新しいデータが組み込まれると適応して変化します。 そして科学者たちは新製品を開発するでしょう。

シカゴ大学の学長は、政策立案者は長期的にAIを追跡するための新しいシステムに投資する必要があると述べた キャサリン・バイカー上院財政委員会の公聴会で証言した。 「最大の進歩は、私たちがまだ考えていないことです」と彼女はインタビューで語った。

KFF 健康ニュースは、以前は Kaiser Health News として知られており、健康問題に関する詳細なジャーナリズムを制作する全国的なニュース局です。