健康

AIバイアス評価の取り組みは、米国の病院全体で不均一です

米国の病院の約3分の2がAIアシスト予測モデルを使用していますが、病院のわずか44％がこれらのモデルをバイアスについて評価し、患者ケアの公平性に関する懸念を提起しています。 これらはaの結果でした 最近の研究 ミネソタ大学公衆衛生学校が実施し、健康問題に掲載され、全国の2,425の病院からのデータを分析しました。 この研究は、AIの採用における格差を強調しており、より多くの財源と技術的専門知識を備えた病院は、リソース不足の施設と比較してAIツールの開発と評価に適していることに注目しています。 報告書はまた、病院が主にAIツールを使用して入院患者の健康軌道を予測し、高リスクの外来患者を特定し、スケジューリングを合理化していることを発見しました。 UMN公衆衛生学校助教授のペイジ・ノンは、現在彼女の研究を推進している重要な質問の1つは、広範な財源や技術的専門知識のない病院が、採用するAIツールが患者集団の特定のニーズに合わせて調整されることを保証する方法だと説明しました。 「これらの病院が2つの悪いオプションで立ち往生したくない。必要な評価と監視なしにAIを使用しているか、いくつかの主要な組織的課題に役立つ可能性があるにもかかわらず、それを使用しない」と彼女は言った。 彼女は、提供された情報を使用していると言いました HTI-1ルールのテクノロジーポリシー補佐官によって説明されている予測モデルラベル 組織が取ることができる1つのステップです。 これらのラベルは、病院にいくつかの重要な情報を提供しているため、患者集団の特注モデルを構築できなくても、利用可能なツールの重要な消費者になる可能性があります。 「たとえその情報が簡単にアクセスできないとしても、彼らはベンダーにその情報を尋ねることができます。」 彼女は、バイアス評価に関しては改善する余地がたくさんあることを認めました。 「まず、この論文で議論するローカル評価を実施することは、AIツールがすべての患者にとってうまく機能していることを保証するための貴重なステップです」と彼女は言いました。 「第二に、出力を駆動している予測因子を見るのは役に立ちます。」 組織が予測因子が偏っていることを確認できる場合、収入や宗教的アイデンティティなどのものは、それらのツールを回避できます。 彼女は、患者にとってツールの出力が何を意味するかについて慎重に考えることが重要であると付け加えました。 「たとえば、モデルが逃した予定を予測している場合、そのツール周辺の人間の意思決定は、バイアスを永続させるのではなく、どのようにして公平かつ倫理的になることができますか？」彼女は言った。 Nongは、AIの採用と評価能力に関しては、資金提供された病院と資金不足の病院との間のデジタル格差をどのように橋渡しすることができるかを見ることに興奮していると言いました。 「政策面では、地域の拡張センター、AHRQの患者安全団体などのような論文の貴重なコラボレーションとパートナーシップのさまざまな例を説明します」と彼女は言いました。 彼女は指摘した 健康AIパートナーシップ このタイプのネットワーク化された技術支援を試みているグループです。 「実践面では、ITの専門家は、コミュニティや専門家協会やネットワークと関わり、リソース不足のケア提供組織のニーズを特定し、重要な洞察とサポートを提供することができます」とノンは述べました。 ネイサン・エディは、ベルリンに拠点を置くヘルスケアとテクノロジーフリーランサーです。ライターにメールしてください： [email protected]： @dropdeaded209 #AIバイアス評価の取り組みは米国の病院全体で不均一です