ChatGPT Health — OpenAI の健康に焦点を当てた新しいチャットボット — は、ジャーナルに先週掲載された研究によると、医療上の緊急事態の重症度を過小評価することが多かった 自然医学。
この研究では、研究者らは、現実のシナリオに基づいて医療ケースをトリアージまたは重症度を評価する ChatGPT Health の機能をテストしました。
以前の研究では、ChatGPT が 健康診断に合格できる、そしてほぼ 2024 年には医師の 3 分の 2 が何らかの形の AI を使用していると報告。しかし、他の研究によると、 ChatGPT を含むチャットボットは信頼できる医療アドバイスを提供しません。
ChatGPT Health は、OpenAI の一般的な ChatGPT チャットボットとは別のものです。このプログラムは無料ですが、ユーザーはこの健康プログラムを利用するために特別にサインアップする必要があり、現在参加待ちリストが存在しています。 OpenAIは、ChatGPT Healthはより安全なプラットフォームを使用しているため、ユーザーは個人の医療情報を安全にアップロードできると述べている。
世界中で 4,000 万人以上の人々が ChatGPT を使用して医療に関する質問に回答しており、毎週 200 万件近くの ChatGPT メッセージが保険に関するものであり、 OpenAIによると。 OpenAI は、Web サイト上の ChatGPT Health の詳細な説明の中で、次のように述べています。診断や治療を目的としたものではありません」
研究では、研究者らは 60 の医療シナリオを ChatGPT Health に提供しました。チャットボットの応答は、同様にシナリオを検討し、医療ガイドラインと臨床専門知識に基づいてそれぞれのシナリオをトリアージした 3 人の医師の応答と比較されました。
各シナリオには 16 のバリエーションがあり、患者の人種や性別などを変更します。
ニューヨーク市のマウントサイナイ病院の泌尿器科講師で、研究筆頭著者であるアシュウィン・ラマスワミー博士によれば、これらのバリエーションは「まったく同じ結果が得られる」ように設計されているという。これは、男性が関与する緊急事態は、患者が女性であっても緊急として分類されるべきであることを意味しました。この研究では、人口動態の変化に基づく結果に大きな違いは見つかりませんでした。
研究者らは、ChatGPT Health では緊急症例の 51.6% が「優先順位付けが不十分」であることを発見しました。つまり、ボットは患者に救急治療室に行くことを勧めるのではなく、24 ～ 48 時間以内に医師の診察を受けることを推奨しました。
緊急事態には、糖尿病性ケトアシドーシスと呼ばれる生命を脅かす糖尿病合併症を患う患者や、呼吸不全に陥った患者も含まれていた。治療せずに放置すると、どちらも死につながります。
「どんな医師でも、そしてある程度の訓練を受けた人なら誰でも、その患者は救急外来に行く必要があると言うでしょう」とラマスワミ医師は語った。
差し迫った呼吸不全のような場合、ボットはERを勧める前に「緊急事態が否定できなくなるのを待っている」ようだった、と同氏は述べた。
紛れもない症状を伴う脳卒中のような緊急事態は、100%の確率で正しくトリアージされたことが研究で判明した。
ChatGPT Healthは限られた数のユーザーのみが利用可能であり、OpenAIはチャットボットがより広く利用可能になる前に、モデルの安全性と信頼性を向上させるために引き続き取り組んでいると広報担当者は述べた。
研究対象の医師と比較して、ボットはまた、緊急でない症例の 64.8% を過剰にトリアージし、必要のない場合でも医師の診察を推奨しました。ボットは、3 日間喉の痛みがある患者に対し、在宅ケアで十分な場合は 24 ～ 48 時間以内に医師の診察を受けるように指示しました。
ラマスワミ氏は、「なぜ特定の分野と他の分野で勧告を行っているのか、私には論理的ではない」と述べた。
自殺念慮や自傷行為のシナリオでは、ボットの反応も一貫性がありませんでした。
ユーザーが自殺願望を表明した場合、 ChatGPT はユーザーを参照することになっています 自殺と危機のホットライン 988 まで。 OpenAIの広報担当者によると、ChatGPT Healthも同様に機能するという。
しかし、この調査では、ChatGPT Health は、ユーザーが必要のない場合には代わりに 988 を参照し、必要な場合にはユーザーに参照しませんでした。
ラマスワミー氏はボットを「逆説的」と呼んだ。
「それが臨床リスクに転じた」と彼は言う。 「そして、それはある意味後ろ向きでした。」
「医療療法士」
UCLAヘルスの医学准教授でプライマリケア医でもあるジョン・マフィ博士は、この研究には関与していないが、健康に関する意思決定を行えるチャットボットについてはさらなるテストが必要だと述べた。
「この研究のメッセージは、生命に影響を与える決定を下すために、このようなものを展開する前に、対照試験で厳密にテストし、利益が害を上回ることを確認する必要があるということです」とマフィ氏は述べた。
マフィ氏とラマスワミ氏は、自分たちの患者が医療質問に AI を使用しているのを何人も見てきたと述べた。
ラマスワミ氏は、AIには簡単にアクセスでき、質問できる質問の数に制限がないため、人々は健康上のアドバイスを求めてAIに頼る可能性があると述べた。
「あらゆる質問、あらゆる詳細、アップロードしたいあらゆる文書に目を通すことができます」とラマスワミ氏は語った。 「そして、それはそのニーズを満たします。人々は本当に本当に、医学的なアドバイスだけでなく、医療療法士のようなパートナーも望んでいます。」
「医師は病室であなたと15分から20分は一緒に過ごすことができます」とラマスワミ氏は語った。 「彼らはすべての質問に答えて答えることはできないでしょう。」
医療アドバイスのためにチャットボットを使用するリスク
無制限に利用できる利点にもかかわらず、チャットボットが現在安全に健康や医療に関するアドバイスを提供できるかとの質問に対し、ラマスワミ氏はノーと答えた。
AI研究ネットワークであるARISEのエグゼクティブディレクターであるイーサン・ゴー博士は、多くの場合、AIは安全な健康や医療に関するアドバイスを提供できるが、医師のアドバイスに代わるものではないと述べた。
「現実には、チャットボットは非常に多くのことに役立ちます。実際には、思慮深く慎重であること、そしてチャットボットには重大な制限があることを理解することが重要です」と彼は言いました。
デューク大学の生物統計学および生物情報学部門およびコンピューターサイエンス部門の助教授であるモニカ・アグラワル氏は、AIモデルがどのように訓練されるのか、また訓練にどのようなデータが使用されるのかはほとんど不明であると述べた。
同氏は、一部のトレーニングベンチマークはボットが役立つ可能性を示していない可能性があると述べた。
“たくさんの [OpenAI’s] 「以前の評価は、『免許試験で良い成績を収めている』ということに基づいていました。しかし、健康診断で良い成績を収めることと、実際に医療を実践することの間には大きな違いがあります。」と彼女は語った。
彼女は、人々がチャットボットを使用する場合、ユーザーが提供する情報は必ずしも明確ではなく、偏見が含まれている可能性があると付け加えました。
「大規模な言語モデルはお調子者であることで知られています」と彼女は言う。 「これは、たとえそれが正しくないとしても、ユーザーが提示した意見に同意する傾向があることを意味します。そして、これは患者の誤解や偏見を強化する可能性があります。」
マフィ氏は、AIツールは「患者を喜ばせるように設計されている」が、医師としては「時には患者が喜ばないかもしれないことを言わなければならないこともある」と語った。
ラマスワミ氏は、緊急時にAIに頼るべきではなく、医師と連携してAIを利用することが危害を防ぐ鍵になると述べた。同氏は、より安全なAI製品を開発するにはテクノロジー企業とヘルスケア企業の連携が重要だと述べた。
「これらのモデルがますます改善されれば、特に田舎のシナリオや世界保健の分野において、患者、AI、医師の関係の利点が明らかになるでしょう」と彼は言いました。
#ChatGPT #Health新たな研究で救急医療の半数がトリアージが不十分