セレニティ・ストラル/BBC
(クレジット: Serenity Strull/BBC)
「我々はGoogleの言いなりになっている。」米国で迷っている有権者が Google に頼ると、まったく同じ質問をしている場合でも、劇的に異なる世界の見方が見えるかもしれません。
ドナルド・トランプに関する質問、陰謀論、物議を醸す政治的議論、さらには医療情報についても、同じ二分法が見られます。一部の専門家は、Googleはあなた自身の信念をそのままオウム返ししているだけだと言う。その過程で自分自身の偏見を悪化させ、社会の分断を深めている可能性があります。
米国の南フロリダ大学で情報システムの助教授を務めるヴァロル・ケイハン氏は、「どんな情報を見つけられるかということに関しては、私たちはグーグルのなすがままだ」と語る。
バイアスマシン
「Google の全体的な使命は、人々が望む情報を提供することですが、時には人々が望む情報を提供することもあります。 考える 彼らが望んでいるのは、実際には最も役立つものではありません」と、デジタル マーケティング ディレクターのサラ プレシュ氏は言います。 ドラゴンメトリクスは、「検索エンジン最適化」または SEO として知られる方法を使用して、企業が Google からの認識を高めるために Web サイトを調整するのに役立つプラットフォームです。
これは Google の検索結果を注意深く調べる必要がある仕事ですが、数年前、Presch 氏はある問題に気づきました。 「私は、白熱した議論が行われているトピックを Google がどのように扱っているかを調べ始めました」と彼女は言います。 「多くの場合、結果は衝撃的でした。」
Googleがやったことは、人々が検索している内容に基づいてテキストから一部を抜き出し、彼らが読みたいものを提供したことだ – Sarah PreschSarah Presch
場合によっては、Google はまったく同じ Web ページから矛盾する情報を引き出すことがあります (クレジット: Sarah Presch)
彼女は政治的な問題に関しても同じ問題に直面しました。 「英国の税制は公平か」と尋ねると、Googleは保守党議員ナイジェル・ハドルストンの言葉を引用して、確かに公平だと主張した。 「英国の税制は不公平ですか？」と尋ねると、Google の注目の抜粋は英国の税金がどのように富裕層に利益をもたらし不平等を促進するかを説明します。
「Googleがやったことは、人々が検索している内容に基づいてテキストから一部を抜き出し、彼らが読みたいものを提供したということだ」とプレシュ氏は言う。 「それは大きなバイアスマシンです。」
Googleは、人々が探している種類の情報と単純に一致する公平な結果をユーザーに提供すると述べている。 Googleの広報担当者は「検索エンジンとして、Googleは入力したクエリに関連する高品質な結果を表示することを目指している」と述べた。 「私たちはウェブ全体からさまざまな視点へのオープンアクセスを提供し、人々が見つけた情報やソースを評価するのに役立つツールを提供します。」
フィルターの泡がはじけるとき
による 一つの見積もりGoogle は毎秒約 630 万件のクエリを処理しており、1 日あたり合計 90 億件以上の検索が行われています。インターネット トラフィックの大部分は Google 検索から始まり、ユーザーが最初の 5 つのリンク以降をクリックすることはめったになく、ましてや 2 番目のページにアクセスすることはありません。ある研究では、 ユーザーの目の動きを追跡しました 多くの場合、上位の結果以外には何も見ようとしない人もいます。 Google 検索のリンクを順序付けるシステムは、私たちの世界の経験に対して計り知れない力を持っています。
Google によれば、同社はこの責任を適切に処理しているという。 「独立した学術研究は、Google検索が人々をフィルターバブルに押し込んでいるという考えに反駁した」と広報担当者は言う。
セレニティ・ストラル/ BBC
専門家は、Google の検索結果が私たち自身の判断の欠陥をさらに悪化させているのではないかと懸念しています (クレジット: Serenity Strull/BBC)
しかし、ケイハンは勉強しました 検索エンジンが確証バイアスに与える影響、自分の信念を裏付ける情報を求める自然な衝動 – 私たちの信念、さらには私たち自身の政治的アイデンティティさえも、オンラインで見るものを制御するシステムによって左右されることに疑問の余地はないと述べています。 「私たちは情報の受け取り方によって大きく影響を受けます」と彼は言います。
Googleの広報担当者は次のように述べています。 2023年の調査 この研究者は、人々が党派的なニュースに触れるのは、そもそもGoogleが党派的なニュースを提供しているというよりも、彼らがそれをクリックしたという事実によるものであると結論づけた。ある意味では、これが確証バイアスの仕組みです。人は自分の意見を裏付ける証拠を探し、自分に異議を唱える証拠を無視します。しかし研究者らは、その研究でも、その調査結果はGoogleのアルゴリズムに問題がないことを示唆するものではないと述べた。研究者らは、「場合によっては、参加者はGoogle検索上で非常に党派的で信頼性の低いニュースにさらされることもあった」と述べ、「過去の研究によれば、たとえ限られた数のそのような露出であっても、重大な悪影響を与える可能性がある」としている。
いずれにせよ、自分をフィルターバブルに閉じ込めてしまうような情報に関わることを選択するかもしれませんが、「そもそも、目の前に与えられるメッセージの中から選択できるのは、特定のメッセージの花束だけです」と、シルビア・ノブロック＝ウェスターウィック氏は言います。ドイツのベルリン工科大学で媒介コミュニケーションの教授。 「この問題ではアルゴリズムが重要な役割を果たしています。」
Googleは、確証バイアスの問題に対処する特別な任務を負った人物やチームがいるのかというBBCの質問には回答しなかった。
「私たちは文書を理解していないので、文書を偽造します」
「私の考えでは、この問題全体は検索エンジンの技術的な限界と、人々がその限界が何なのかを理解していないという事実から生じている」と、 こちらも質問されました、Google の結果を分析する別の検索エンジン最適化ツール。
Googleに対する最近の米国の反トラスト法訴訟が明らかになった 社内文書 ここでは、従業員が質問に答えるために検索エンジンが使用するいくつかのテクニックについて話し合います。 「私たちは文書を理解していません。文書を偽造しているのです」とあるエンジニアは、会議中に使用されたスライドショーで書いた。 2016年の発表会 会社で。 「1 日に 10 億回、人々はクエリに関連する文書を見つけてほしいと私たちに求めてきます。いくつかの基本的なことを除けば、私たちは文書をほとんど見ません。私たちは人を見ます。文書に肯定的な反応があれば、それは良いことだと考えます。反応は否定的であり、おそらくひどく単純化されていますが、これが Google の魔法の源です。」
「そうやって私たちは次の人に奉仕し、誘導を続け、理解しているという幻想を維持するのです。」
言い換えれば、Google はユーザーが特定の検索語を入力したときに何をクリックするかを監視しています。人々が特定の種類の情報に満足しているように見える場合、Google は将来、同様のクエリに対してその種類の検索結果を宣伝する可能性が高くなります。
Googleの広報担当者は、これらの文書は時代遅れで、クエリやウェブページを解読するために使用されるシステムははるかに洗練されていると述べた。
セレニティ・ストラル/ BBC
毎日数十億件の検索がそのシステムを通過するため、Google は人々がどのような情報にさらされるかについて大きな影響力を持っています (クレジット: Serenity Strull/BBC)
「そのプレゼンテーションは 2016 年のものなので、少し割り引いて受け止める必要がありますが、根底にあるコンセプトは今でも真実です。Google は人々が何を好むかを予測するためにモデルを構築していますが、問題は、これが一種のフィードバック ループを生み出すことです。 」とウィリアムズ・クックは言います。確証バイアスによって人々が自分の信念を強化するリンクをクリックするよう促されると、Googleは確証バイアスにつながるリンクを人々に表示するよう教えられる可能性がある。 「それは、子供に自分の好きなものに基づいて食事を選ばせると言っているようなものです。子供たちはジャンクフードに行き着くだけです」と彼は言う。
ウィリアムズ・クック氏はまた、「トランプ氏は良い候補者か」といった質問をしても、グーグルがそれを必ずしも質問として解釈するとは限らないことを人々が理解していないのではないかと懸念している。その代わりに、多くの場合、「トランプ」や「有力な候補者」などのキーワードに関連する文書が抽出されるだけです。
それは人々に検索時に何が得られるかについて誤った期待を与え、それが人々に検索結果の意味を誤解させる可能性があると彼は言います。
哲学的問題
Google の広報担当者は、その気になれば、ウェブ上の情報源からさまざまな視点を反映した結果を見つけるのは簡単だと述べています。彼らは、プレシュ氏が指摘したいくつかの例でもそれが真実であると主張している。 「カマラ・ハリスは良い民主党候補者か」などの質問でさらに下にスクロールすると、彼女を批判するリンクが見つかる。 「英国の税制は公平か」についても同様で、公平ではないという検索結果が見つかります。 Googleの広報担当者は、「コーヒーと高血圧の関連性」というクエリについて、問題は複雑だが、検索エンジンはニュアンスを詳しく掘り下げた信頼できる情報源を明らかにすると述べた。
長い間、観察者たちは、Google が検索エンジンから、外部情報源を紹介するのではなく、単に情報を提供する「回答エンジン」にどのように移行しているかを説明してきました。最も明確な例は、AI オーバービューの導入です。これは、Google が検索クエリに応答してリンクを取得するのではなく、AI を使用して検索クエリに答える機能です。同社が言うように、「Google に検索を任せましょう」。
「以前はGoogleは誰かが書いたものを見せていたが、今ではGoogle自身が答えを書いている」とウィリアムズ・クック氏は言う。 「こうした問題すべてがさらに複雑になる。なぜなら、グーグルには問題を解決するチャンスが一度しかないからである。これは難しい決断だ。」
しかし、たとえGoogleがこれらすべての問題に対処する技術的能力を持っていたとしても、いつ、どのように介入すべきかは必ずしも明らかではない。特定の信念を裏付ける情報が必要な場合、Google はそれを提供することで価値のあるサービスを提供しています。
多くの人は、世界で最も裕福で最も強力な企業の一つが真実について決定を下すという考えに不快感を抱いている、とケイハン氏は言う。 「これを修正するのは Google の仕事ですか? Google が自動的に修正することを信頼できますか? そして、修正可能なものさえありますか? これらは難しい質問であり、誰も答えを持っていないと思います。」と彼は言います。 「一つだけ確実に言えるのは、彼らの取り組みが十分ではないと思うということだ」
* トーマス・ジャーメインは、BBC の上級テクノロジー ジャーナリストです。彼は 10 年の大部分を AI、プライバシー、インターネット文化の最先端をカバーしてきました。あなたは彼を見つけることができます × そして TikTok @トーマスジャーメイン。
#Google #が聞きたいことを伝える仕組み