健康

誰がケアを受けるかを AI が決定: AI 適用範囲の決定におけるバイアスに対処する

医療における AI の影響は大幅に増加していますが、 AIアルゴリズムのバイアスこれらのツールが解決するはずだったケアにギャップが生じています。医療指導者は、可能な限り最も適切で費用対効果の高いケアを提供する方法を決定する際に、運営上の効果を達成するための経済的インセンティブと患者のニーズの両方を比較検討する必要に迫られています。 患者のニーズと再入院の可能性を予測する高度な AI ツールを使用して、この全体的な支出に対処する大きな必要性と機会がありますが、これらのアルゴリズム内の固有のバイアスは最終的には利益よりも害をもたらし、患者の健康を犠牲にして経済的節約が達成されています。 コストの抑制と患者のニーズ これらの偏見の多くは、個々の患者のニーズに対するコストを抑えようとする価値観に基づくケアの中核となる緊張関係と結びついています。価値ベースのモデルとメディケア アドバンテージ プランは、急性期後の支出を管理するために予測分析を使用しています。このアルゴリズムは、山ほどのデータを処理して、典型的な患者には何日のリハビリが「必要」であるか、あるいは何回の在宅療法訪問が「十分」であるかなど、患者のケア計画を決定します。保険会社はこれを個別化医療として宣伝していますが、画一的な考え方をよく目にします。ツールは、平均的な患者を対象とした最適な入院期間やサービス レベルを吐き出しますが、それは多くの場合、現実ではありません。 最前線のプロバイダーは、こうした競合を頻繁に目撃しており、これらの使用率管理アルゴリズムが鈍器のようなものであると感じています。責任あるケア組織（ACO）や病院と提携している私は、患者が「基準を満たしていない」という理由で、1週間の追加の在宅看護や特注の医療機器などを拒否する自動化された事前承認システムに何度も遭遇した。価値ベースの契約では、統計的に過剰に見えるサービスを削減するよう圧力がかかりますが、病気は必ずしも平均的であるとは限りません。アルゴリズムの基準となる在宅療法訪問回数を超えた、合併症を抱えたがんサバイバーのことを思い出します。コスト抑制の論理なら彼女の仕事は断たれただろう。その代わりに、私たちのケアコーディネーターはサービスを拡大するために奮闘し、高額な費用がかかる可能性のある再入院を阻止しました。残念ながら、すべての患者にアルゴリズムを無効にする支持者がいるわけではありません。価値観に基づくケアとは、正当に必要なケアを拒否することを意味するものであってはなりませんが、慎重なチェックがなければ、アルゴリズムは「最適化」の名の下にまさにその間違いを犯してしまう可能性があります。 不透明な決定とケア調整の課題 患者と家族にとって、このすべての中で最も腹立たしい部分の 1 つは、その不透明さです。 AI の公式が報道の拒否を決定したとき、その結果を受け入れて生きている人々は、その理由がわからないことがよくあります。彼らは無味乾燥な拒否レターを受け取るだけで、多くの場合、どれも同じように見え、「医学的に必要ではない」または「サービスはもう必要ありません」などの一般的なフレーズが含まれており、具体的なケースについての詳細はほとんどありません。たとえば、別の施設に入院している患者のうち 2 人は、医療責任者が患者の症例を検討し、名前も専門分野も示されておらず、帰宅する準備ができていると結論付けたという手紙を受け取りましたが、どちらの手紙にも自宅を危険にさらす実際の状況については言及されていませんでした。あたかもブラックボックスの中で決定が下され、漠然とした言葉の判決だけが現れるかのようなものだ。多くの場合、アルゴリズムのレポートは患者にまったく共有されず、スコアリング方法は患者に推測させる一方、影響を受ける患者には見られず検査もされずにバックグラウンドで静かに実行されます。この透明性の欠如により、家族が拒否に異議を唱えたり、理解することさえ非常に困難になります。 不透明さは患者を傷つけるだけではありません。それはケアの調整の歯車に砂を投げ込むことになります。病院や熟練看護施設（SNF）は、隠れた基準に基づいて保険適用の打ち切りが突然なされると、移行計画に苦慮しています。この不確実性により、退院計画担当者は退院後のサービスに関する適切な計画を立てることができず、SNF は患者がまだリハビリを必要としているにもかかわらず、保険会社が支払いを停止するという盲目的な状況に置かれています。これにより、医療提供者と支払者の間に緊張が生じ、患者は綱引きの真っ只中に置かれます。また、自動拒否により当初の退院計画が狂ったため、病院は患者をさらに長く入院させるか、代替の資金を見つけるかに奔走しなければならなかった。多くの場合、医師とSNFケアチームは、患者の準備ができていないことを知っているため、補償を終了するというアルゴリズムの決定に強く同意しません。その結果、急いで退院し、急いで引き継ぎを行い、合併症や再入院のリスクが高まる可能性があります。これはまさに適切な移行期ケアが防ぐべきことです。こうした AI ベースの適用範囲の決定が秘密に包まれていると、信頼と連携が損なわれてしまいます。医療提供者は、患者のケアではなく、異議申し立てや回避策に時間を浪費することを余儀なくされています。家族は多くの場合、突然拒否され、自分たちで介護の手配をしようと慌てるまで、何も知らないまま放置されます。ここでは透明性は贅沢品ではありません。それは安全で協調的なケアのために必要です。 アルゴリズムによるケアの決定に公平性と透明性を浸透させる 運転コストはケアのあらゆるレベルを通じて重要であり、価値に基づくケア プログラムの重要な部分です。しかし、これは患者の負担で行うことはできません。規制を超えて、アルゴリズム開発者と医療機関は、完全な移植が展開される前に、バイアスがないかこれらのツールを監査することを倍増する必要があります。これには、人種、性別、郵便番号などの要因ごとに結果を調査し、発生したエラーを修正することが含まれます。透明性もパズルの大きなピースです。保険会社は独自の計算式を公表する必要はないが、急性期後のサービスを承認または拒否するために使用される基準を開示する必要がある。患者と医療提供者は、決定が臨床証拠、費用予測、または AI アルゴリズムに基づいているかどうかを知る必要があります。さらに、病院と SNF は、患者の急性期後の治療がどのくらいの期間補償されるかについて秘密にしておくべきではありません。アルゴリズムが使用されている場合でも、全員が適切に計画を立て、予測が外れた場合に早期に懸念にフラグを立てることができるように、その予測は共有される必要があります。ケアの調整に関しては、コミュニケーションを増やすことが鍵となります。 AI アルゴリズムはツールであり、人間によって設計され、企業の優先事項に合わせてプログラムすることはできますが、全体像を把握していることはほとんどありません。これらのツールは進化し続けるため、医療リーダーは常に患者を第一に考える必要があります。これは、患者が引き続き必要なケアを受けられるよう、人間によるチェックを継続することを意味します。結局のところ、人間はテクノロジーよりも状況に応じた知識を持っているだけでなく、より適切な判断を下すための共感力や理解を、これらのツールよりも多く持っているのです。 写真：Jスタジオ、ゲッティイメージズ アフザル博士 は、医療イノベーションにおける先見の明を持っており、価値に基づいたケア モデルの進歩に…