ウィーン — 欧州呼吸器学会（ERS）2024年大会専門家らは、医療における人工知能（AI）の利点とリスクについて議論し、倫理的な影響と実際的な課題を検討しました。
2020 年以降、米国食品医薬品局には 600 を超える AI 対応医療機器が登録されており、AI は医療システムに急速に浸透しています。しかし、他の医療機器と同様に、AI ツールは徹底的に評価され、厳格な規制に従う必要があります。
デンマークのオーフス大学哲学・思想史学部の博士研究員であるジョシュア・ハザリー博士は、伝統的な生命倫理の原則である自律性、善行、無害性、正義は、医療におけるAIツールの使用に関する倫理を評価するための重要な枠組みであり続けると述べた。しかし、AIシステムのユニークな特徴により、「説明可能性」という新たな第5の原則が注目を集めていると彼は述べた。
「今、誰もがAIに興奮しているが、AIをどれだけ信頼できるのか、そしてどれだけ活用できるのかについては、多くの疑問が残っている」と、フランスのリモージュ大学の臨床研究者アナ・カタリナ・エルナンデス・パディーヤ氏は語った。 メドスケープ医療ニュース。
英国バーミンガム大学炎症・老化研究所のAIおよびデジタルヘルス臨床研究フェローであるジョセフ・アルダーマン博士（MBChB）は、今はAIと健康の分野で働くには間違いなく刺激的な時代だが、臨床医は「物語の一部」となり、安全で効果的かつ公平なAIを推進すべきだと考えていると述べた。
長所
アルダーマン氏は、AIには医療と患者の体験を改善する大きな可能性があると述べた。
AI が応用されている興味深い分野の 1 つに、インフォームド コンセントのプロセスがあります。大規模言語モデルのような会話型 AI モデルは、患者に時間制限のないプラットフォームを提供してリスク、利点、推奨事項について話し合うことができ、理解と患者の関与が向上する可能性があります。AI システムは、ソーシャル メディアと医療データを分析することで、コミュニケーションが苦手な患者の好みを予測することもできます。これにより、代理意思決定が改善され、治療が患者の好みに一致するようになる可能性があると、ハザリー氏は説明します。
もう 1 つの大きな利点は、AI がリソースの割り当てを改善することで患者の転帰を改善できることです。たとえば、AI は病床の割り当てを最適化し、リソースのより効率的な使用と患者の健康転帰の改善につながります。
AI システムは、大規模なデータ分析を通じて医療ミスを減らし、診断や治療計画を強化し、より迅速かつ正確な意思決定につながります。管理タスクも処理できるため、医師の疲労が軽減され、医療従事者は患者のケアにさらに集中できるようになります。
AI は、医療サービスが行き届いていない地域で質の高い医療へのアクセスを改善することで、健康の公平性を高めることも期待されています。地方の病院や発展途上国では、AI が臨床専門知識のギャップを埋めるのに役立ち、医療へのアクセスにおける公平性を高める可能性があります。
短所
AI は潜在的可能性を秘めているものの、医療分野においては慎重な倫理的考慮を必要とするいくつかのリスクを伴います。主な懸念事項の 1 つは、AI システムに偏見が組み込まれる可能性があることです。
例えば、AIエージェントからのAI主導のアドバイスは、患者固有の価値観ではなく、幅広い基準に基づいて、生存などの特定の結果を優先する可能性があり、寿命よりも生活の質を重視する患者の好みと一致しない可能性があります。「それは患者の自主的な決定を妨げる可能性があります」とハザリー氏は言います。
AI システムには一般化の限界もある。特定の患者集団で訓練されたモデルは、人口統計学的または臨床的特徴の変化により、異なるグループに適用するとパフォーマンスが低下する可能性がある。その結果、現実世界では精度の低い、または不適切な推奨結果になる可能性がある。「これらの技術は、ツールが開発された非常に狭い集団では機能するが、現実世界では必ずしも機能しない可能性がある」とアルダーマン氏は述べた。
もう一つの重大なリスクはアルゴリズムによる偏りで、健康格差を悪化させる可能性がある。偏ったデータセットで訓練されたAIモデルは、医療提供における既存の不平等を永続化または悪化させ、疎外された人々への最適とは言えない医療につながる可能性がある。「アルゴリズムが特定の特性を持つ人々を直接差別している証拠がある」とアルダーマン氏は述べた。
AIのブラックボックス
AIシステム、特にディープラーニングを活用したシステムは「ブラックボックス」として機能することが多く、内部の意思決定プロセスが不透明で解釈が難しい。ハザリー氏は、この透明性の欠如が臨床上の意思決定における信頼と説明責任について大きな懸念を引き起こしていると述べた。
これらのシステムがどのように推奨事項を生成するかについての洞察を提供するために説明可能な AI 手法が開発されているが、これらの説明では推論プロセスを完全には捉えられないことが多い。これは、薬が効くメカニズムを明確に理解せずに薬を使用するのと同じだとハザリー氏は説明した。
AIによる意思決定の不透明性は、医師と患者の間に不信感を招き、医療におけるAIの有効活用を制限する可能性がある。「AIが提供する情報をどう解釈すればいいのか、私たちにはよく分からない」とヘルナンデス氏は言う。
若い臨床医はAIツールを試してみようという姿勢が強いかもしれないが、年配の医師は患者を全体的に見て病気の進行を観察しながら、依然として自分の感覚を信頼することを好むと彼女は述べた。「彼らは単にチェックボックスにチェックを入れているだけではない。医療上の決定を下すために、これらすべての変数を総合的に解釈しているのだ」と彼女は述べた。
「私はAIの将来について非常に楽観的です」とハザリー氏は結論付けた。「克服すべき課題はまだ多くありますが、結局のところ、AIを人間にどう適応させるべきかを語るだけでは十分ではありません。人間がAIにどう適応すべきかについても語る必要があるのです。」
ハザリー氏、アルダーマン氏、ヘルナンデス氏は、関連する金銭関係は報告していない。
マヌエラ・カラリは、人類と地球の健康を専門とするフリーランスの科学ジャーナリストです。彼女の記事は、The Medical Republic、Rare Disease Advisor、The Guardian、MIT Technology Review などに掲載されています。