医療における人工知能の使用は、医療上の失敗に対する責任を確立する際に、法的に複雑な責任の所在を問うゲームを引き起こす可能性があると専門家は警告している。
臨床使用のための AI の開発がブームとなり、研究者はアルゴリズムから支援するためのツールまで多数のツールを作成しています。 スキャンを解釈する できるシステムへ 診断を助ける。 AI は、ベッド容量の最適化からサプライ チェーンへの取り組みまで、病院の管理を支援するために開発されています。
しかし専門家らは、この技術が医療に無数の利益をもたらす可能性があると述べている一方で、AIツールの有効性のテストの欠如から、患者が否定的な結果を出した場合の責任の所在に関する疑問に至るまで、懸念の原因もあると述べている。
ピッツバーグ大学のデレク・アンガス教授は、「何か問題が起こったと認識され、人々が誰かを責めようとするケースは間違いなく存在するだろう」と述べた。
昨年、Journal of the American Medical Associationが主催した人工知能に関するJamaサミットには、臨床医、テクノロジー企業、規制当局、保険会社、倫理学者、弁護士、経済学者などの専門家が一堂に会した。
の 結果のレポートアンガス氏が筆頭著者であるこの本では、AI ツールの性質とそれが使用されている医療分野について考察しているだけでなく、法的懸念を含め、AI ツールがもたらす課題についても検討しています。
報告書の共著者であるハーバード大学法科大学院のグレン・コーエン教授は、人工知能製品の使用や設計における過失を患者が証明するのが困難になる可能性があると述べた。その内部動作に関する情報を得るには障壁がある可能性がある一方、製品の合理的な代替設計を提案したり、劣悪な結果が AI システムによって引き起こされたことを証明したりすることも困難になる可能性があります。
同氏は、「当事者間の相互作用により、訴訟を起こす際に課題が生じる可能性もある。当事者がお互いに過失があると指摘したり、契約上責任を再配分する既存の合意を結んでいたり、賠償訴訟を起こしたりする可能性がある」と述べた。
報告書のもう一人の著者であるスタンフォード法科大学院のミシェル・メロ教授は、法廷には法的問題を解決するための設備が十分に整っていると述べた。 「問題は、時間がかかり、初期段階では不一致が生じることです。この不確実性により、AI のイノベーションと導入のエコシステムに関わる全員のコストが上昇します」と彼女は言いました。
同報告書はまた、AIツールの評価方法についても懸念を表明しており、AIツールの多くが米国食品医薬品局（FDA）などの規制当局の監督の外にあると指摘している。
アンガス氏は、「臨床医にとって、有効性とは通常、健康状態の改善を意味するが、規制当局が証拠を要求するという保証はない」と述べた。 [of that]。そして、AI ツールがリリースされると、さまざまなレベルのスキルを持つユーザーによって、さまざまな臨床現場、さまざまな種類の患者に対して、非常に多くの予測不可能な方法で導入される可能性があります。事前承認パッケージで良いと思われるアイデアが実際に得られるものであるという保証はほとんどありません。」
報告書では、現時点で AI ツールを評価するには多くの障壁があると概説しており、その中には、AI ツールを十分に評価するには臨床で使用する必要があることが多い一方で、現在の評価アプローチは高価で面倒であることが挙げられます。
アンガス氏は、デジタルインフラストラクチャへの投資が重要な分野であり、ヘルスケアにおけるAIツールのパフォーマンスを適切に評価するために資金が提供されることが重要であると述べた。 「サミット中に話題になったことの一つは、 [that] 最もよく評価されているツールは、あまり採用されていません。最も多く採用されているツールは、最も評価されていません。」