人工知能は医療に関する重要な意思決定を行っています。 保安官はMIAです。

医療機器や医薬品とは異なり、AI ソフトウェアは変化します。 FDA は 1 回限りの承認を発行するのではなく、人工知能製品を長期にわたって監視したいと考えていますが、これは決して積極的には行われていません。

ジョー・バイデン大統領は10月、AIの安全性と有効性を確保するため、各省庁が連携して迅速に対応すると約束した。 しかし、FDA のような規制当局には、その定義上、常に変化するテクノロジーを管理するために必要なリソースがありません。

FDA長官ロバート・カリフ氏は1月の会議で「規模をさらに倍増する必要があるが、最後に見たところ、納税者はそれにあまり興味がないようだ」と述べ、最近のFDA関係者会議でもその点を繰り返した。

カリフ氏はFDAの課題について率直に語った。 AI の評価は、AI が常に学習しており、会場に応じて異なる動作をする可能性があるため、彼の代理店の既存のパラダイムには適合しない途方もない作業です。 FDA が医薬品や医療機器を承認する際、それらがどのように進化するかを監視する必要はありません。

そして、FDA にとっての問題は、規制アプローチの調整やスタッフの追加雇用だけに留まりません。 からの新しいレポート
政府会計責任局議会の監視機関であるGAOは、当局がより多くの権限、すなわちAIのパフォーマンスデータを要求し、医薬品や医療機器に対する従来のリスク評価枠組みよりも具体的な方法でアルゴリズムのガードレールを設定することを望んでいるとGAOは述べた。

議会が検討を始めたばかりであることを考えると、ましてや AI 規制について合意に達するには時間がかかる可能性があります。

議会は伝統的にFDAの権限を拡大することを嫌がる。 そして今のところFDAは要請していない。

同庁は医療機器メーカーに対し、人工知能を安全に組み込むためのガイダンスを提供しており、そのガイダンスには法的拘束力がないにもかかわらず、同庁は行き過ぎだとするハイテク企業からの業界の反発を引き起こしている。

同時に、学界や産業界の一部のAI専門家は、FDAは既存の当局と十分な協力を行っていないと主張している。

権限の範囲

AI の進歩により、FDA の規制内容に大きなギャップが生じています。 たとえば、チャットボットなどのツールのレビューには何も関与せず、医師の記録を要約したり、その他の重要な管理タスクを実行したりするシステムに対する権限もありません。

FDAは医療機器と同様に第一世代のAIツールも規制しており、14か月前議会は、初期のAIを含む機器のメーカーが認可を再申請することなく、事前に計画されたアップデートを実装できる権限をFDAに与えた。

しかし、AIに対するFDAの権限の範囲はまだ決まっていない。

企業連合は、一刻を争う推奨や診断を提供する人工知能メーカーはFDAの認可を求めなければならないとする2022年の指針をFDAが発表した際、権限を超えているとしてFDAに請願書を提出した。 たとえこのガイダンスに法的拘束力がないとしても、企業は通常、従う必要があると感じています。

医療情報管理システム協会は、医療技術企業を代表する業界団体です。
も困惑を表明 FDA の権限の範囲と、AI 規制に対する権限が FDA と保健社会福祉省内の他の機関 (保健情報技術国家調整局など) との間でどのように分割されているかについて説明します。 同庁は12月にAIシステムに関する透明性の向上を求める規則を制定した。

「業界の観点から見ると、HHSから何らかの明確な説明がなければ、人々が誰に相談すればよいのか直接分からないこの分野に参入してしまうことになる」と、当時FDA長官だったスティーブン・ハーンの元上級顧問で現在はコリン・ロム氏は語る。ベンチャーキャピタル会社アンドリーセン・ホロヴィッツで医療政策を主導する。

一方、FDAはGAOに対し、アルゴリズムが長期間にわたって有効であるかどうかを積極的に追跡するには、パフォーマンスデータを収集するために議会からの新たな権限が必要であると述べた。

同庁はまた、既存の医療機器の分類を使用して管理を決定するのではなく、個々のアルゴリズムに特定の保護措置を作成する新たな権限を望んでいるとも述べた。

FDAはそのニーズを議会に伝える予定だ。

監督業務委託

しかしそれでもなお、行き詰まりの国会議事堂に依存することになる。

その結果、カリフ氏と業界関係者の一部は、別のアイデアを提案している。それは、医療における人工知能を検証し監視できる官民の保証研究所を、おそらく主要な大学や大学の保健センターに設立することだ。

「私たちは、アルゴリズムが実際に害を及ぼさずに良い効果をもたらしていることを証明する方法で評価を行う団体のコミュニティを持たなければなりません」とカリフ氏は先月の家電ショーで述べた。

この考えは議会でも一定の支持を得ている。 セン。 ジョン・ヒッケンルーパー (コロラド州) は、高度な人工知能を監査する資格のある第三者を求めています。 彼は特に、人間の知能を模倣する ChatGPT のような種類の生成 AI について考えていますが、これはカリフ氏が提案したのと同じ監視フレームワークです。

AI は主要な大学キャンパスでテストされたため、一部の AI 専門家が指摘しているように、このアプローチには欠陥がある可能性があります。
うまくいかないかもしれない 田舎の小さな病院で。

デューク大学ヘルスイノベーション研究所で集団健康とデータサイエンスをリードするマーク・センダック氏は、今月行われた医療における人工知能に関する財務委員会の公聴会で上院議員らに対し、「環境が違えば環境が異なることは勤務医としては分かっているだろう」と語った。 「すべての医療機関は、AI をローカルに管理できる必要があります。」

1月、医療情報技術国家コーディネーターのミッキー・トリパティ氏とFDAデジタルヘルス部長のトロイ・タズバズ氏は、
書きました 米国医師会ジャーナルは、保証研究所はその問題を考慮する必要があると述べています。

この記事はスタンフォード医学、ジョンズ・ホプキンス大学、メイヨー・クリニックの研究者が共同執筆したもので、少数のパイロットラボが検証システムの設計を主導するよう求めている。

しかし、規制当局、大手大学、医療提供者の協力は小規模企業を安心させるものではない。パイロットラボが独自のAIシステムを開発したり、テクノロジー企業と協力したりする組織である場合、利益相反を懸念するからだ。

エアーズ氏は、FDAはAIの検証を独自の枠内で行うべきであり、誰が監督するかに関係なく、AIシステムのメーカーは少なくとも患者の転帰を改善することを示す必要があると考えている。

同氏は、電子医療記録会社エピックのAIシステムが、感染症に対する致死的な反応である敗血症を検出できず、規制当局が見逃していたことを指摘した。 同社はその後アルゴリズムを全面的に見直しており、FDAの広報担当者は特定の企業とのやり取りについては開示していないと述べた。

しかし、今回の事件により、医療・テクノロジー関係者の多くは、当局が現在の権限を効果的に活用できていないのではないかと感じている。

「彼らは現場に出てこの問題を取り締まるべきだ」とエアーズ氏は語った。