1769274696
2026-01-24 17:00:00
インフルエンザや新型コロナウイルスに感染していますか?目が覚めると疲れを感じるのはなぜですか?私の胸の痛みの原因は何ですか? 20 年以上にわたり、世界で最も人気のある検索エンジンに医学的な質問を入力すると、その答えが記載された Web サイトへのリンクのリストが表示されてきました。今、これらの健康に関するクエリを Google で検索すると、その応答はおそらく人工知能によって書かれるでしょう。
Googleのサンダー・ピチャイ最高経営責任者（CEO）は、2024年5月にカリフォルニア州マウンテンビューで開催された年次会議で、自社の検索エンジンにAIを組み込む計画を初めて明らかにした。同月から米国のユーザーには、従来の検索結果の上に情報の概要を提供する新機能「AI概要」が表示されると述べた。この変更は、Googleの中核製品にとって、四半世紀で最大の刷新となった。 2025 年 7 月までに、このテクノロジーは 40 言語で 200 か国以上に拡大され、毎月 20 億人が AI 概要を利用できるようになりました。
AI オーバービューの急速な展開により、Google は年間約 2,000 億ドル (1,470 億ポンド) を生み出す従来の検索ビジネスを、新興の AI ライバルに挫折される前に守ろうと躍起になっている。ピチャイ氏は昨年7月、「われわれはAIの最前線でリードしており、信じられないほどのペースで出荷している」と語った。特にAI Overviewsは「好調だった」と同氏は付け加えた。
しかし、専門家らによると、概要にはリスクが伴うという。生成 AI を使用してトピックや質問に関する情報のスナップショットを提供し、従来の検索結果の上に会話形式の回答を瞬く間に追加します。出典を引用することはできますが、その出典がいつ間違っているのか必ずしもわかりません。
グーグルのサンダー・ピチャイ最高経営責任者（ＣＥＯ）は、ＡＩオーバービューズがオンライン検索収益の維持に役立つことを期待している。写真：カイリー・クーパー/ロイター
米国でこの機能が開始されてから数週間以内に、ユーザーはさまざまなテーマで虚偽に遭遇しました。ある AI 概要では、第 7 代米国大統領のアンドリュー・ジャクソン氏が次のように述べています。 2005年に大学を卒業。 Googleの検索責任者、エリザベス・リード氏はこう語る。 ブログ投稿で批判に答えた。彼女は、「少数のケースでは」AI 概要が Web ページ上の文言を誤解し、不正確な情報を提示したことを認めた。 「ウェブの規模が大きくなると、毎日何十億ものクエリが受信されるため、何らかの奇妙さやエラーが生じることは避けられません」と彼女は書いています。
しかし専門家らは、こうした質問が健康に関するものである場合、正確さと背景が不可欠であり、交渉の余地はないと言う。ガーディアン紙の調査で、人々が虚偽で誤解を招く健康情報によって危害の危険にさらされていることが判明したことを受け、グーグルは、医療に関する質問に対する同社のAI概要に対する厳しい監視に直面している。
同社によれば、AI の概要は次のとおりです。信頼性のある「しかし、ガーディアン紙は、一部の医療要約が不正確な健康情報を提供し、人々を危害の危険にさらしていることを発見した。専門家が「本当に危険だ」と述べたあるケースでは、グーグルは膵臓がん患者に高脂肪食品を避けるよう誤ってアドバイスした。専門家らは、これは推奨されるべきものとは正反対であり、この病気で患者が死亡するリスクを高める可能性があると述べた。
女性のがん検査に関するAIオーバービューズも「完全に間違った」情報を提供しており、専門家は人々が本当の症状を無視する結果になる可能性があると述べた。
Googleは当初、ガーディアン紙の調査結果を軽視しようとした。同社によると、自社の臨床医が評価できることから、専門家に警告を発するAI概要は信頼できる情報源にリンクされており、専門家のアドバイスを求めることを推奨しているという。 「当社は、特に健康などのトピックに関する AI 概要の品質に多大な投資を行っており、大部分が正確な情報を提供しています」と広報担当者は述べています。
しかし、同社は数日以内に、ガーディアン紙が報告した健康に関するクエリの AI 概要の一部を削除した。 「検索内での個別の削除についてはコメントしません」と広報担当者は述べた。 「AI 概要でコンテキストが欠落している場合は、広範な改善に努め、必要に応じてポリシーに基づいて措置を講じます。」
専門家は健康に関する質問に対する AI 概要の一部が削除されたことを歓迎しているが、多くの人は依然として懸念を抱いている。 「これらすべてに対する私たちのより大きな懸念は、検索結果が 1 つだけを厳選しており、Google はそのために AI 概要を停止するだけで済むが、健康に関する AI 概要というより大きな問題には取り組んでいないことです」と、肝臓健康慈善団体である英国肝臓トラストのコミュニケーションおよび政策担当ディレクター、ヴァネッサ・ヘブディッチは言う。
「Google AI 概要が人々に不正確な健康情報を提供する例は、依然として多すぎます」と患者、国民、医療専門家に科学的根拠に基づいた健康情報を推進する患者情報フォーラムの議長であるスー・ファリントン氏は付け加えた。
「YouTube は医療出版社ではないので、これは重要です。」 研究者たちは書いた。 「これは汎用のビデオプラットフォームです。誰でもそこにコンテンツをアップロードできます（例えば、認定医師、病院チャンネルだけでなく、医療訓練をまったく受けていないウェルネスインフルエンサー、ライフコーチ、クリエイターも同様です）。」
医学においては、答えがどこから得られるか、あるいはその正確さのレベルだけが重要ではなく、それがユーザーにどのように提示されるかが重要である、と専門家は言う。 「AI 概要を使用すると、ユーザーは比較したり批判的に評価できるさまざまな情報源に出会うことがなくなります」と、バーゼル大学の AI、健康、法律の研究者であるハンナ ヴァン コルフスホーテン氏は述べています。 「代わりに、医学的権威を示す、AI が生成した自信に満ちた単一の回答が提示されます。
「これは、システムが単にオンラインで健康情報を反映するだけでなく、それを積極的に再構築することを意味します。その対応が、YouTube 動画などの医療基準を満たすように設計されていないソースに基づいて構築されると、オンラインで規制されていない新しい形の医療権威が生み出されます。」
GoogleはAIの概要が構築されていると述べています 上位の Web 結果に裏付けられた情報を表面化する、概要に示されている情報をサポートする Web コンテンツへのリンクが含まれています。人々はこれらのリンクを使用してトピックを深く掘り下げることができる、と同社はガーディアンに語った。
しかし、アイルランド国立大学のビジネスと社会の准教授であるニコール・グロス氏は、複数の情報源からの健康情報を組み合わせたAI概要の単一のテキストブロックが混乱を引き起こす可能性があると指摘する。
専門家らはガーディアン紙に別の懸念を提起した。 AI オーバービューが特定の医療トピックに関する正確な事実を提供したとしても、ランダム化試験からの強力な証拠と観察研究からの弱い証拠を区別できない可能性がある、と彼らは述べています。また、その証拠に関する重要な注意点を見逃している人もいる、と彼らは付け加えた。
AI 概要でそのような主張を並べてリストすると、一部が実際よりもよく確立されているという印象を与える可能性もあります。科学が変わっていない場合でも、AI の概要が進化するにつれて、答えも変わる可能性があります。 「つまり、人々がいつ検索するかによって異なる答えが得られるということですが、それだけでは十分ではありません」とがん慈善団体イブ・アピールの最高責任者アテナ・ラムニソス氏は言う。
Googleはガーディアンに対し、AI概要に含まれるリンクは動的であり、特定の検索に最も関連性があり、役立つ、タイムリーな情報に基づいて変更されると語った。 AI OverviewsがWebコンテンツを誤解したり、コンテキストを見逃したりした場合、同社はこれらのエラーを利用してシステムを改善し、必要に応じて措置を講じると同社は述べた。
最大の懸念は、AI 概要に含まれる偽の危険な医療情報やアドバイスが「最終的には、たとえ適応された形であっても、患者の日常業務、日課、生活に組み込まれてしまうことである」とグロス氏は言います。 「医療において、これは生死にかかわる問題になる可能性があります。」
#Google #概要の信頼できる権威が公衆衛生をどのように危険にさらしているのか #グーグル