Googleの人工知能の概要に含まれる虚偽の誤解を招く健康情報により、人々が危害の危険にさらされていることがガーディアンの調査で判明した。
同社は、生成 AI を使用してトピックや質問に関する重要な情報のスナップショットを提供する AI 概要について次のように述べています。役立つ” そして “信頼性のある”。
しかし、検索結果の上部に表示される要約の一部は、不正確な健康情報を提供し、人々を危害の危険にさらすものでした。
専門家が「本当に危険」と評したある事例では、グーグルが膵臓がん患者に高脂肪食品を避けるよう誤ってアドバイスした。専門家らは、これは推奨されるべきものとは正反対であり、患者がこの病気で死亡するリスクを高める可能性があると述べた。
別の「憂慮すべき」例では、同社は重要な肝機能検査に関する偽の情報を提供しており、重篤な肝疾患を患っている人々が自分は健康であると誤解する可能性がある。
女性のがん検査に関する回答をグーグルで検索すると「完全に間違った」情報も提供され、専門家らは人々が本当の症状を無視する結果になる可能性があると述べた。
Googleの広報担当者は、共有された健康状態の例の多くは「不完全なスクリーンショット」だったが、評価できる限りでは「有名で信頼できる情報源にリンクしており、専門家のアドバイスを求めることを推奨している」と述べた。
ガーディアンの調査は、AIデータが信頼できると思い込んでいる消費者を混乱させる可能性があるという懸念が高まる中で行われた。昨年 11 月の調査では、さまざまなプラットフォームにわたる AI チャットボットが不正確な財務アドバイスを提供していることが判明しましたが、同様の懸念が提起されています。 ニュース記事の要約。
科学的根拠に基づいた健康情報を患者、国民、医療専門家に広める患者情報フォーラムのディレクター、ソフィー・ランドール氏は、これらの例は「グーグルのAI概要が不正確な健康情報をオンライン検索の上位に表示し、人々の健康にリスクをもたらす可能性がある」ことを示していると述べた。
終末期慈善団体マリー・キュリーのデジタル担当ディレクター、ステファニー・パーカー氏は、「人々は不安や危機の瞬間にインターネットに頼る。受け取った情報が不正確であったり、文脈から外れていたりすると、健康に深刻な悪影響を与える可能性がある」と語った。
多くの保健団体、慈善団体、専門家が懸念を表明したことを受け、ガーディアン紙は、GoogleのAI概要に不正確な健康情報が含まれている事例をいくつか明らかにした。
英国膵臓がん協会の支援・研究・影響力担当ディレクター、アンナ・ジュエル氏は、患者に高脂肪食品を避けるようアドバイスするのは「完全に間違っている」と述べた。そうすることは「非常に危険であり、治療を受けられるほど健康になる可能性を危うくする可能性がある」と彼女は付け加えた。
ジュエル氏は、「Google AIの反応は、膵臓がん患者は高脂肪食品を避けていることを示唆しており、その例のリストを提供している。しかし、もし誰かが検索結果の指示に従うと、十分なカロリーを摂取できず、体重が増えにくくなり、化学療法や命を救う可能性のある手術に耐えられなくなる可能性がある。」と述べた。
また、「肝臓の血液検査の正常範囲はどれくらいですか」と入力すると、大量の数値が記載され、背景がほとんどなく、患者の国籍、性別、民族、年齢が考慮されていない、誤解を招く情報が提供されました。
英国肝臓トラストの最高経営責任者パメラ・ヒーリー氏は、AIによる要約は憂慮すべきものだと述べた。 「肝疾患患者の多くは末期まで症状が現れないため、検査を受けることが非常に重要です。しかし、Google AI の概要が示す「正常」は、実際に正常と考えられているものとは大幅に異なる場合があります。
「膣がんの症状と検査」で検索すると、膣がんの検査としてパップテストがリストされていますが、これは誤りです。
イブ・アピールがん慈善団体の最高責任者であるアテナ・ラムニソス氏は、「これはがんを検出するための検査ではないし、もちろん膣がんを検出するための検査でもない。これは完全に間違った情報である。このような誤った情報を入手すると、最近の子宮頸がん検診で明らかな結果が出たという理由で膣がんの症状の検査を受けられない人が出る可能性がある」と語った。
「また、全く同じ検索を行ったときに AI の概要が変化し、異なるソースから取得した異なる回答が返されるという事実にも懸念していました。つまり、ユーザーは検索するタイミングに応じて異なる回答が得られることになり、これでは十分ではありません。」
ラムニソスさんは非常に心配していると語った。 「私たちが目にした結果の中には、本当に憂慮すべきものもあり、女性を危険にさらす可能性があるものもあります」と彼女は言う。
またガーディアン紙は、Google AI 概要が精神的健康状態に関する検索に対して誤解を招く結果を提供していることも発見した。 「これは慈善団体としての私たちにとって大きな懸念事項です」とマインド社の情報責任者スティーブン・バックリー氏は語った。
バックリー氏によると、精神病や摂食障害などの症状に関するAI要約の一部は「非常に危険なアドバイス」を提供しており、「不正確、有害、または人々が助けを求めないよう誘導する可能性がある」という。
また、重要な文脈やニュアンスを見逃している人もいた、と同氏は付け加えた。 「彼らは、不適切なサイトからの情報へのアクセスを示唆するかもしれません…そして、AI が情報を要約するとき、既存の偏見、固定観念、または非難するような物語が反映されることがよくあることを私たちは知っています。」
Googleは、AI概要の大部分は事実に基づいており有益であり、継続的に品質改善を行っていると述べた。 AI オーバービューの精度率は、10 年以上前から存在する強調スニペットなどの他の検索機能と同等だった、と付け加えた。
同社はまた、AI OverviewsがWebコンテンツを誤解したりコンテキストを見逃したりした場合には、ポリシーに基づいて適切な措置を講じると述べた。
Googleの広報担当者は、「特に健康などのトピックに関して、AI概要の品質に多大な投資を行っており、大部分が正確な情報を提供している」と述べた。
1767380012
#Google #の概要は誤解を招く健康アドバイスで人々を危害の危険にさらす #グーグル
2026-01-02 18:19:00