科学とテクノロジーの最先端からのイノベーションを見逃すことはできません
今年の初めに、OpenAI は と呼ばれる新しいツールをリリースしました。 チャットGPTヘルスこれは、健康に関するアドバイスを生成するために医療記録を取り込むように設計されていますが、「診断や治療を目的としたものではない」という不可解な免責事項が付け加えられています。
結局のところ、この警告には十分な理由があることがわかりました。この機能の最初の独立した安全性評価によると、 詳しい 今月号の雑誌に 自然医学このアプリは医療上の緊急事態を特定するのが驚くほど下手だ。
「私たちは最も基本的な安全性の質問に答えたかったのです。誰かが実際に医療上の緊急事態に陥り、ChatGPT Health に何をすべきかを尋ねた場合、救急外来に行くように指示されるでしょうか」と筆頭著者であり、マウント サイナイ病院のインストラクターであるアシュウィン ラマスワミー氏は述べています。 言った ガーディアン。
ラマスワミー氏らは、軽度の疾患から緊急事態に至るまで、「21の臨床領域にわたって臨床医が執筆した60の挿絵を用いて、トリアージ推奨の構造化ストレステストを実施」した。
次に、これら 60 のケースのそれぞれに対して何をすべきかを ChatGPT Health に尋ね、患者の性別の変更や家族のコメントの追加など、他のさまざまな条件も追加して、合計 1,000 近くのシナリオを作成しました。
AI チャットボットの応答を独立した医師の評価と比較した結果、驚くべき結果が得られました。患者がすぐに病院に行く必要があるケースの半数以上で、ChatGPT Health は患者に家にいるか、医療予約をするように指示しました。
この研究には関与していないユニバーシティ・カレッジ・ロンドンの博士研究員アレックス・ルアニ氏は、状況を「信じられないほど危険」だと述べた。
「呼吸不全や糖尿病性ケトアシドーシスを経験している場合、この AI がそれは大したことではないと言ってくる確率は 50/50 です」と彼女は語った。 ガーディアン。 「私が最も心配しているのは、これらのシステムが生み出す誤った安心感です。喘息の発作や糖尿病の危機の際に48時間待つように言われたら、その安心感が命を落とす可能性があります。」
逆に、すぐにケアを必要としない人の 64 パーセントは、ChatGPT Health から ER に行くようアドバイスを受けていました。
大きな影響を与える要因は、家族や友人からのインプットであることが判明しました。シミュレートされた友人や患者が状況は深刻ではないと主張した後、AI は症状を軽視する可能性がほぼ 12 倍高く、混沌とした現実世界の医療危機ではよくある状況でした。
OpenAIの広報担当者はこう語った。 ガーディアン この研究は、人々が実際の生活でChatGPT Healthをどのように使用するかを誤解しており、AIモデルの改善を続けていると主張した。
しかし、最新の独立した評価の結果を考慮すると、これらの明らかな欠点は、ChatGPTに健康上のアドバイスを求めた後に誰かが危害を加えられたり、さらに悪化したりする可能性があり、これは法的責任を伴う複雑な問題であり、将来的に同社に対する訴訟を引き起こす可能性があります。
OpenAIはすでに、チャットボットが一部のユーザーを偏執的な行動や妄想のスパイラルに導いているとして告発されており、この現象は「AI精神病」と呼ばれ、最近の自殺や殺人を巡る訴訟に関与しているとされている。
スタンドアロンのアプリを通じてユーザーに健康上のアドバイスを求めるよう積極的に奨励すること（混乱を招き、行動を起こさないように指示されている）は、さらに危険な賭けとなる可能性があります。
AI と健康についてさらに詳しく: OpenAIがChatGPT Healthを発表、医療記録全体を取り込むが、「診断や治療」には使用しないよう警告
1772388278
#ChatGPT #Health #は生命を脅かす緊急医療の認識が驚くほど下手
2026-03-01 17:00:00