AI が医師の指示を誤った場合、誰がお金を払うのでしょうか?

危険にさらされているのは医療過誤の賠償金だけではなく、十数人の保健、法務、テクノロジーのリーダーがPOLITICOに語った。 裁判官、議員、規制当局は、人工知能を導入した医療システムが質の高いケアと何か問題が起こった場合の補償の権利の両方の観点から患者に負う義務を形作っている。

戦わなければそれは起こらない。 ヘルステック企業や一部の病院は、治療の最終判断を下す医師には最終的な責任があると述べている。

AMAはある意味でこの点を補強した。 同団体は、医師が AI に完全に依存してはならないと主張しているため、AI を「拡張知能」と呼んでいます。

医療分野における AI ツールの爆発的な普及により、医療過誤をめぐるかつての白熱した議論が再燃しています。 しかし、医師と共和党が責任制限の引き上げを推進し、民主党と原告側弁護士がこれを押し返すという従来の戦線が維持されるかどうかは明らかではない。 「医療マル」論争が沈静化してから数年が経ち、
医師の政治がトレンドになっている 民主党とツールを開発するハイテク大手は両党と対立している。 これは、医師が望むものを提供する余地がある可能性があることを示唆しています。

これを行うための法律はまだありませんが、議員らは検討を始めています。 議員 グレッグ・マーフィー (RN.C.)、泌尿器科医であり下院共和党医師団の共同議長、
最近書いた 食品医薬品局のロバート・カリフ長官に、カリフの見解を求め、アプローチを提案するよう要請した。

議員 バーン・ブキャナン 歳入健康小委員会の委員長（共和党、フロリダ州）は米国医師会に対し、議会の役割があると考えていると語った。

同氏は責任改革について「われわれはそれを検討し、大きな変化を生み出せないかどうかを検討するつもりだ」と述べた。

法律専門家らは、議会が決定するまでは裁判官が新制度の条件を設定すると述べた。

「裁判所は既存のルールの一部を進化させる必要があるだろう」 [and] スタンフォード大学の医療法学者で、この問題について議会で証言したミシェル・メロ氏は語った。

その一方で、医療提供者、テクノロジー企業、患者は、不確実で危険な状況に陥っていると感じています。

安全性と寛容性

医療過誤の議論はかつて、損害賠償額の上限、原告の弁護士費用の制限、患者が訴訟を起こす期間の短縮などを盛り込んだ共和党の「不法行為改革」案のリストを中心に議論されていた。

共和党が議会で成功することはほとんどなかったが、
多くの州議会が 課せられた制限。

現在、AI の責任に関する政策決定は、患者がどれだけの補償を受けるかということよりも、ミスの責任を誰が負うかということに重点が置かれています。

マーフィー氏は、AIがワシントンでの医療過誤論争を一変させる可能性があるため、早期に議論の舵取りに取り組んでいると述べた。

カリフ氏はカリフ氏に宛てた書簡の中で、医師と彼らが使用するAI製品が患者の転帰を追跡する監視プログラムに参加する場合に適用される「セーフハーバー」を提案した。

マーフィー氏はPOLITICOに対し、「ここで全国レベルで素晴らしい前例が作られることになるだろう」と語った。

しかしマーフィー氏は法案を提案しておらず、カリフ氏もマーフィー氏の調査に応じていない。

裁判の弁護士らは、マーフィーが訴訟を進めれば争うつもりだと述べている。

「人々に責任の免除を与えるということは、日常の人々が責任の矢面に立つことを意味する」と裁判弁護士の代表団体である米国正義協会のショーン・ドムニック会長は述べた。

AI ツールにより、「クリック、クリック、クリックするだけが簡単になります」と彼は言いました。 「私たちはそれを防がなければなりません。」

メロ氏は、新しいAIツールの規制に対する政府の慎重なアプローチにより、法的な不確実性が増大していると述べた。

現在、FDA は一部の AI を活用した医療機器を規制していますが、最新バージョンの技術に対するアプローチはまだ形成されつつあります。

メロ氏によると、規制されていないツールは訴訟に対してより脆弱になる可能性があるという。なぜなら、規制されていないツールは「先制原則」によって保護されていないからだ。つまり、規制対象のデバイスは十分に安全で効果的であることがわかっているという理論に基づいて、一部の主張を禁止するというものだ。 FDAの認可を受けました。

そのため、FDAのような連邦機関が最新のAIツールの規制をどのように決定するかは、ソフトウェアメーカーがいつエラーの責任を負うかを決定する上で役割を果たす可能性がある。

また、一部のAI製品メーカーが規制当局の承認を求めるようになる可能性もある。

「もしあなたが『私は決して医療機器ではない』とはっきり言っているのなら、今では先取り原則の恩恵を受けることはできないでしょう」とメロ氏は言う。

法的な状況

判例法によれば、医師には訴訟を回避する同様の手段が存在しない可能性が高い。

摂取フォームが不完全であったり、医学文献が間違っていたり、製薬会社がそのリスクについて適切に警告しなかったりしたために、患者が標準以下の治療を受けている場合、裁判所はこう述べている。
医者を放任することはめったにない。

場合によっては、医師がどの薬を処方するか、どのように患者を治療するかについて誤ったソフトウェアの提案に従ったとされるが、原告らはこれが医師に損害を与えたと主張した。 訴訟を起こされたとき、このツールを非難しようとする医師の努力にもかかわらず、裁判所は依然として訴訟を起こした。

「私が最も心配しているのは医師たちです」とメロ氏は語った。 「医師というのは、バッグを抱えたまま放置されるような人たちなのです。」

これには理由がある、と一部のヘルステック企業は言う。 彼らの見解では、診断ソフトウェアは GPS のようなものです。どのような指示が出されても、道路を走行し続けるかどうかはドライバー次第です。

「その部屋には、認可を受けた医療提供者が 1 人しかいません」と、AI モデルの進歩に取り組んでいる医療データ会社 COTA の最高医療責任者である CK ワン博士は言います。 「私は自分のライセンスに基づいて下された決定に対して責任があります。 したがって、私は臨床医に、自分たちが使用しているテクノロジーを本当に理解するようアドバイスします。」

医師にとって状況は特に厄介で、AIを避ければ訴訟に巻き込まれる可能性もある。

法学者らは原告側が、医師は利用可能な最良のツールを使用しなかったために過失があったと主張すると予想している。

医師たちは他にも多くの疑問を考えています。患者が医師ではなくアルゴリズムのアドバイスに従いたい場合、医師はどうすべきでしょうか?

どのようなシナリオで医師は機械よりも自分自身を信頼すべきでしょうか?

未知のものを保証する

その答えには巨額の資金がかかっており、医師が AI ツールをどの程度早く導入するか、医師が選択する専門分野、住む場所に影響を及ぼします。

新型コロナウイルスのパンデミックで大きく落ち込んだ後、医療過誤の支払い額は急増し、再び元の水準に戻った。
30億ドル以上 National Practitioner Data Bank が収集した統計によると、2022 年に。

AMA
去年言った 多くの医師が医療過誤保険料を4年連続で2桁の割合で値上げしているという。

AMAは、保険料の上昇傾向が続けば、医師が診療する場所やどの専門分野を選択するかに影響を与える可能性があると述べた。

AMA は、保険料は専門分野によって大きく異なると指摘した。 フィラデルフィアでは、2022年に内科医が年間保険料として3万1909ドルを支払ったのに対し、一般外科医は10万5013ドル、産婦人科医は18万5565ドルを支払った。

また、州法が高額な訴訟のリスクに影響を与える可能性があることもあり、手数料は地域によって著しく異なります。 たとえば、ロサンゼルスの産婦人科医は4万9,804ドルを支払ったが、マイアミの産婦人科医は22万6,224ドルを支払った。

保険会社はAI革命に注目しているが、それが保険料にどのような影響を与えるかについては予測していない。

「これは未知の領域です」とCACスペシャルティのヘルスケア部門執行副社長メリッサ・メナード氏は語った。

保険会社は、バイアスの増加、プライバシーの低下、サイバーセキュリティの新たな脅威など、AIによるリスクに注目する必要があると同氏は述べた。

しかし、このテクノロジーが全体としてケアを改善すれば、医師が医療過誤で訴えられる可能性も減り、保険コストも削減される可能性がある。

不確実性の中で、責任を持って医療を実践するという中核原則を最優先すべきであると、弁護士、医療指導者、テクノロジー企業は同意している。

「私たちは常に標準治療に戻ります」とメナード氏は言う。

しかし、法律と医療の専門家は、特にその導入が増え続けるにつれて、その基準が AI によって変わる可能性があることを認めています。

それでも、一部の医療システムは、現在の基準をサポートし、改善するためのツールとして AI を使用することに熱心です。

フロリダ健康科学センターの社長兼最高経営責任者（CEO）のジョン・クーリス氏は、「私たちはAIを聴診器のように使っている」と述べ、テクノロジーに対する興奮と冷静さのバランスをとる必要性を強調した。 「これは提供しているケアを強化するためのツールですが、患者に何が行われるか、何が行われないかを決定する最終的な権威は医師と看護師です。」

医師の健康を擁護する団体「Moral Injury of Healthcare」の会長兼共同創設者であるウェンディ・ディーン博士を含め、他の医療提供者もそれほど冷静ではない。

「AI が自信を持って結論を下すので、人間として『ちょっと待ってください、これについて疑問を持たなければなりません』と言うのが非常に難しくなります。」と彼女は言いました。