自己教師あり基礎モデルにより病理組織学 AI のバイアスを軽減

2024 年 4 月 29 日 – 最近の報告書によると、マサチューセッツ州ブリガム将軍の研究チームは、標準的な計算病理学モデルのパフォーマンスが人口統計グループ間で異なることを発見しましたが、基礎モデルがこれらの格差を部分的に緩和できることを実証しました。 自然医学 勉強。

研究者らは、人工知能（AI）ツールが病理学を進歩させる大きな可能性を示している一方で、少数派の患者集団の過小評価と、その結果生じるAIトレーニングデータセットに関連した健康公平性の懸念により、そのようなテクノロジーの効果的な使用は制限されていることを指摘した。

これに対処するために、研究チームは、バイアス緩和手法を使用して、グループ間のこれらのモデルのパフォーマンス格差を定量化し、削減することに着手しました。

研究者らは、Cancer Genome Atlas と EBRAINS 脳腫瘍アトラス (どちらも主に白人患者からの情報が含まれている) のデータを使用して、乳がんのサブタイプ判定、肺がんのサブタイプ判定、および神経膠腫の IDH1 変異予測のための計算病理学システムを構築しました。

次に、Mass General Brigham および Cancer Genome Atlas からの 4,300 人のがん患者コホートからの組織スライドを使用してモデルをテストしました。 潜在的な偏見と格差を調査するために、結果は人種ごとに階層化されました。

分析の結果、全体として、白人患者のモデルは黒人患者よりも正確に機能し、乳がんのサブタイプ判定では 3 パーセント、肺がんのサブタイプ判定では 10.9 パーセント、IDH1 変異予測では 16 パーセントの性能差があることが明らかになりました。

これらの格差を減らすために、研究チームは、モデルのトレーニングの一環として過小評価された母集団の例を強調するなど、機械学習ベースのバイアス緩和アプローチを利用しました。 ただし、この方法では観察されたバイアスがわずかに減少するだけでした。

そこから研究者らは、自己教師あり視覚基盤モデル（さまざまな臨床タスクで使用するために大規模なデータセットでトレーニングされた AI ツール）がパフォーマンスのギャップをさらに削減できるかどうかを検討しました。 これらのモデルにより、研究チームはバイアスの可能性を減らすために、組織像からより豊富な特徴表現を取得できるようになりました。

基礎モデルのアプローチにより、パフォーマンスが大幅に向上しました。

「独立した検査データを基に、多様な患者層にわたって層別化された病理学における AI アルゴリズムのパフォーマンスの包括的な分析はまだ行われていません」と、マサチューセッツ・ジェネラル・ブリガム大学病理学部門計算病理学部門の責任著者ファイサル・マフムード博士は述べた。 、で プレスリリース。 「この研究は、病理学における AI 研究に広く使用されている公的に入手可能なデータセットと、内部のマスジェネラル ブリガム コホートの両方に基づいており、人種、保険の種類、年齢層が異なる患者のパフォーマンスの顕著な違いを明らかにしています。 私たちは、「基礎モデル」として知られる自己教師ありの方法でトレーニングされた高度な深層学習モデルが、これらのパフォーマンスの違いを軽減し、精度を向上させることができることを示しました。」

ただし、これらの改善にもかかわらず、人口統計グループ間では依然としてパフォーマンスに大きな差があり、さらなるモデルの改良の必要性が浮き彫りになっています。 研究チームはまた、使用されたデータに含まれる患者数と人口統計グループの数が限られているため、研究の範囲が限定されていると指摘した。

研究者らは今後、ゲノミクスや電子医療記録（EHR）などの複数形式のデータに基づくマルチモダリティ基盤モデルがこれらの障害を克服するのにどのように役立つかを調査する予定だ。

「全体として、この研究の結果は、医療においてより公平な AI モデルを開発するための行動への呼びかけを表しています」とマフムード氏は述べました。 「これは、研究でより多様なデータセットを使用するよう科学者に行動を促すものですが、規制当局や政策機関に対しても、これらのモデルを承認して導入する前に、評価ガイドラインにこれらのモデルの人口統計による層別評価を含め、AI システムが確実に安全に利用できるようにするよう求めるものでもあります。」すべての患者グループに公平に利益をもたらします。」

これらの取り組みは、AI が健康の公平性をどのように促進できるかを調査する最新のものです。

今月初め、ジョージ・ワシントン大学（GW）医学・健康科学部（SMHS）とメリーランド大学イースタンショア大学（UMES）の研究者らは、 受賞 説明可能で公平なリスク予測モデルの開発を支援するため、国立衛生研究所から 2 年間で 839,000 ドルの助成金が提供されます。

「資源不足の地域社会における医療格差に対処する信頼できる AI」（AI-FOR-U）として知られるこのプロジェクトは、最前線の医療従事者がサービスを提供する地域社会における格差に対処できるように設計された、理論に基づいた参加型 AI 開発アプローチを中心としています。 。

このプロジェクトに関わるチームは、健康行動、心臓代謝疾患、腫瘍学の文脈内で AI ベースのリスク予測モデルの公平性と説明可能性を開発、展開、評価します。