AI Medical Tools女性と少数民族の症状の軽視 – アイルランド時代

医師が使用する人工知能ツールは、多くの大規模な言語モデル（LLM）がこれらの患者の症状を軽視していることを示しているため、女性と少数民族の健康転帰の悪化につながるリスクがあります。一連の最近の研究では、ヘルスケアセクター全体のAIモデルの取り込みが偏った医学的決定につながる可能性があることがわかりました。これは、西部社会のさまざまなグループにすでに存在する不足不足のパターンを強化しています。米国をリードする研究者による調査結果は、LLMSを搭載した医療AIツールは、女性患者の症状の重症度を反映しない傾向があり、黒人とアジアのものに対する「共感」をあまり示さない傾向があることを示唆しています。警告は、Microsoft、Amazon、Openai、Googleなどの世界トップAIグループが、世界中の医療システムを過剰に伸ばすのを支援するために、医師のワークロードを減らして治療をスピードアップすることを目的とした製品を開発するために発生します。世界中の多くの病院や医師は、GeminiやChatGptなどのLLMを使用しているだけでなく、NABLAやHeidiなどの新興企業からのAI医療メモ削減アプリを使用して、患者訪問の転写を自動生成し、医学的に関連する詳細を強調し、臨床要約を作成しています。6月、Microsoftは、複雑な病気の診断において人間の医師よりも4倍成功していると主張するAI駆動の医療ツールを構築したことを明らかにしました。しかし、6月のMITのJameelクリニックによる研究では、HealthaiのGPT-4、MetaのLlama 3、Palmyra-MedなどのAIモデル（ヘルスケアに焦点を当てたLLM）は、女性患者のはるかに低いレベルのケアを推奨し、助けを求める代わりに自宅で自己治療する患者の一部を提案しました。MITチームによる別の研究では、OpenaiのGPT-4および他のモデルも、メンタルヘルスの問題を支援する黒人やアジア人に対する思いやりが少ない回答を示していることが示されました。MITのJameel Clinicの准教授であるMarzyeh Ghassemi氏は、「一部の患者は、モデルによる認識された人種に純粋に基づいて、はるかに少ない支持ガイダンスを受け取ることができる」と示唆しています。 同様に、ロンドンスクールオブエコノミクスの研究では、ソーシャルワーカーを支援するために英国の地方自治体の半分以上が使用しているGoogleのGemmaモデルは、ケースノートを生成および要約するために使用された場合に男性の身体的および精神的問題を軽視しました。Ghassemi教授のMITチームは、タイプミス、非公式の言語、または不確実なフレージングが含まれている患者が、臨床含有量が同じであっても、完全にフォーマットされた通信を持つ人々に対して、医療モデルで使用されているAIモデルによる医療を求めることに対して7％から9％がアドバイスされる可能性が高いことを発見しました。これにより、第一言語として英語を話さない人や、不当に扱われている技術を使用することに慣れていない人が生じる可能性があります。有害なバイアスの問題は、LLMSのトレーニングに使用されるデータに部分的に生じます。 GPT-4、Llama、Geminiなどの汎用モデルは、インターネットからのデータを使用して訓練されているため、これらのソースからのバイアスは応答に反映されます。 AI開発者は、モデルが訓練された後にセーフガードを追加することにより、このシステムにこの忍び込みに影響を与えることができます。「Redditのサブフォーラムがあなたの健康上の決定を助言する可能性がある状況にある場合、それは安全な場所だとは思わない」とカリフォルニア大学サンフランシスコ大学の補助教授であり、AI Medical Medical Information Start-Up Openの証拠であるTravis Zackは述べた。昨年の研究で、ザック教授と彼のチームは、GPT-4が病状の人口統計学的多様性を考慮しておらず、特定の人種、民族、性別をステレオタイプ化する傾向があることを発見しました。 研究者たちは、AIツールは、健康研究のデータが男性に対して非常に歪んでおり、たとえば慢性的な資金不足や研究に直面しているため、AIツールはすでに医療セクターに既に存在する低治療のパターンを強化できると警告しました。Openaiは、多くの研究がGPT-4の古いモデルを評価し、同社は発売以来精度が向上したと述べた。特に健康に焦点を当てて、有害または誤解を招く出力の削減に取り組んでいるチームがありました。同社は、外部の臨床医や研究者と協力して、そのモデルを評価し、行動をテストし、リスクを特定したと述べました。このグループはまた、医師と一緒にベンチマークを開発し、健康におけるLLM機能を評価しました。これは、さまざまなスタイル、関連性のレベル、詳細のユーザークエリを考慮しています。Googleは、モデルバイアスが「非常に真剣に」かかり、機密性の高いデータセットを消毒し、バイアスや差別に対する保護手段を開発できるプライバシー技術を開発していると述べました。 研究者は、AIの医療バイアスを減らす1つの方法は、そもそもトレーニングに使用すべきではないデータセットを特定し、多様で代表的な健康データセットでトレーニングすることであることを示唆しています。ザック教授は、患者の歴史を要約し、情報を取得するために米国の40万人の医師が使用している未解決の証拠は、医学雑誌、米国食品医薬品局のラベル、健康ガイドライン、専門家のレビューに関するモデルを訓練したと述べました。すべてのAI出力は、ソースへの引用でバックアップされます。今年の初めに、ロンドンユニバーシティカレッジとキングスカレッジロンドンの研究者は、英国のNHSと提携して、先見性と呼ばれる生成AIモデルを構築しました。このモデルは、入院やCovid-19のワクチン接種などの医療イベントに関する5700万人の匿名化された患者データについて訓練されました。先見性は、入院や心臓発作など、考えられる健康結果を予測するように設計されています。「国家規模のデータを操作することで、人口統計と病気の観点から、イギリスの完全な種類の万華鏡の状態を代表することができます」と、先見の明のチームの主任研究者であるUCLの名誉上級研究員、クリス・トムリンソンは述べました。完璧ではありませんが、トムリンソン氏は、より一般的なデータセットよりも良いスタートを提供すると述べました。また、ヨーロッパの科学者は、英国のBiobankの40万人の参加者からの匿名化された医療記録に基づいて、数十年の将来の疾患に対する感受性を予測するDelphi-2Mと呼ばれるAIモデルを訓練しました。しかし、この規模の実際の患者データでは、プライバシーが問題になることがよくあります。 NHS Foresightプロジェクトは、英国の情報委員会の事務所が、モデルのトレーニングにおけるデリケートな健康データの使用について、英国医師会とロイヤルカレッジオブジェネラルプラクティショナーによって提出されたデータ保護の苦情を検討できるようにするために、6月に一時停止されました。さらに、専門家は、AIシステムがしばしば「幻覚」したり、答えを作り上げたりすることが多いと警告しています。 #Medical #Tools女性と少数民族の症状の軽視 #アイルランド時代