イェール大学医学部の新しい研究報告書は、偏った人工知能が臨床結果にどのような影響を与える可能性があるかを詳しく調査しています。この研究は、AI モデル開発のさまざまな段階に特に焦点を当てており、データの整合性の問題が健康の公平性とケアの質にどのような影響を与える可能性があるかを示しています。
なぜ重要なのか
今月初めに公開された PLOS デジタルヘルス、この研究では、AI バイアスが医療提供にどのような悪影響を与えるかを、医療現場だけでなく、トレーニング データ、モデル開発、公開、実装などの医療 AI 開発のあらゆる段階で、現実世界と仮説の両方で示しています。
「バイアスは内にあり、バイアスは外にある」と、この研究の主著者であるイェール大学医学部の放射線学および生物医学画像および泌尿器科の助教授であるジョン・オノフリー氏はプレス声明で述べた。
同氏は、「機械学習/AI分野で長年働いてきたので、アルゴリズムにバイアスが存在するという考えは驚くべきことではない」と述べた。 「しかし、AI の学習プロセスにバイアスが入り込む可能性があるすべての潜在的な方法を列挙するのは信じられないほどのことです。そのため、バイアスを軽減するのは困難な作業のように思えます。」
研究が指摘しているように、バイアスはアルゴリズム開発パイプラインのほぼどこでも発生する可能性があります。
研究者らによると、これは「データの特徴とラベル、モデルの開発と評価、展開、公開」で発生する可能性があるという。 「特定の患者グループのサンプルサイズが不十分であると、最適ではないパフォーマンス、アルゴリズムの過小評価、臨床的に意味のない予測が生じる可能性があります。また、患者所見が欠落していると、診断コードなどの取得可能だがランダムではない欠損データや、通常は取得されないデータなど、偏ったモデルの動作が生じる可能性があります。あるいは、健康の社会的決定要因など、簡単に把握できないものもあります。」
一方、「教師あり学習モデルのトレーニングに使用される、専門的に注釈が付けられたラベルは、暗黙の認知バイアスや標準以下の治療実践を反映している可能性があります。モデル開発中のパフォーマンス指標に過度に依存すると、バイアスが曖昧になり、モデルの臨床的有用性が低下する可能性があります。トレーニング コホート以外のデータに適用すると、モデルのパフォーマンスが低下する可能性があります」以前の検証より悪化する可能性があり、サブグループ間で差異が生じる可能性があります。」
そしてもちろん、臨床エンドユーザーが AI モデルと対話する方法によっても、それ自体のバイアスが生じる可能性があります。
結局のところ、「ここではAIモデルが開発、公開され、誰によって、将来の医療AI開発の軌道と優先順位に影響を与える」とイェール大学の研究者らは述べている。
彼らは、そのバイアスを軽減するためのあらゆる取り組み、つまり「大規模で多様なデータセットの収集、統計的バイアス除去手法、徹底的なモデル評価、モデルの解釈可能性の重視、標準化されたバイアス報告と透明性の要件」は、鋭い目をもって慎重に実施する必要があると指摘しています。これらのガードレールが患者ケアへの悪影響を防ぐためにどのように機能するかについて。
「臨床現場で実際に導入する前に、偏りのない適用を実証するために臨床試験による厳密な検証が重要である」と彼らは述べている。 「すべての患者が将来の医療 AI から公平に恩恵を受けられるようにするには、モデル開発段階全体にわたるバイアスに対処することが重要です。」
しかし報告書には、「医療 AI のバイアス: 臨床上の意思決定への影響」では、健康の公平性を向上させるという目標に向けて、その偏見を軽減するためのいくつかの提案を提供しています。
たとえば、これまでの研究では、腎機能を推定する際の要素として人種を使用すると、黒人移植が移植リストに載るまでの待ち時間が長くなる場合があることがわかっています。イェール大学の研究者は、将来の AI アルゴリズムが郵便番号やその他の社会経済的要因など、より正確な尺度を使用できるようにするために、いくつかの推奨事項を提供しています。
記録上
「臨床リスク予測のための医療AIモデルにおける健康の社会的決定要因のさらなる捕捉と利用が最も重要になる」とエール大学医学部医学生1年生で、この研究の筆頭著者であるジェームズ・L・クロス氏は声明で述べた。
「偏見は人間の問題です」と、放射線学と生物医学画像の非常勤准教授で研究共著者のマイケル・チョマ博士は付け加えた。 「『AI のバイアス』について話すとき、コンピューターは私たちから学習するということを忘れてはなりません。」
Mike Miliard は Healthcare IT News の編集長です
ライターにメールを送信します: [email protected]
Healthcare IT News は HIMSS の出版物です。