AI の時代に信頼を取り戻すには、より強力な規範と監視が必要です。専門家の見解

ゴータム・ムクンダ著

あなたのおばあちゃんは医師を信頼していましたね。あなたのお母さんは消費者レポートを信頼していました。 2,300 人の見知らぬ人による 4.7 つ星の評価は信頼できます。しかし、最近インターネットを使ってベビーカーのレビューを調べたり、健康保険プランの選択に役立てたりしたことがあるなら、おそらくそれがあまり役に立たなくなっていることに気づいたでしょう。本物の情報は、人工知能が生み出した偽物の雪崩によって埋もれてしまった。

今日のインターネットは本物ではありません。そして人間性も低い。ポロシャツから政治に至るまで、あらゆる情報をそれに依存しているとしたら、それは大きな問題です。良いニュースは、人工知能 (AI) がこれらの見知らぬ人たちとその熱意を一夜にして作り出すことができる時代に、人々は再び機関や専門家を信頼し始めるかもしれないということかもしれない。

インターネットの影響もあり、私たちは組織の信頼性や専門知識の価値が否定され、日常のユーザーによる分散された判断が支持されるようになりました。生成 AI がデジタル的に生成するナンセンスな無限の流れによって、その賭けはますます悪いものになりつつあります。 Graphite が 65,000 件の英語 Web 記事を調査したところ、ChatGPT が登場する前は、そのうちの約 5% が主に AI によって生成されたものであることがわかりました。 2024 年後半までに、その数字は 50% を超えました。 2025 年 4 月、Ahrefs は、新しく作成された Web ページの 74 パーセントに AI によって生成されたコンテンツが含まれていることを発見しました。

AIが書いた記事の多くは役に立つどころか嘘です。問題はAIの幻覚ではなく、むしろ、もっともらしいフィクションを安価かつ大規模に生み出す生成AIの能力だ。その結果、Amazonの製品レビューから世界政治に至るまで、虚偽の宣伝が誰かの利益になるあらゆるトピックに関して、AIが作成したナンセンスが際限なく溢れ出すことになる。

自然な反応は、懐疑的になること、自分で調査すること、情報源を三角測量することなどです。答えようとしている質問についてすでに専門知識を持っている場合は、それが機能します。それ以外のことはすべて崩れてしまいます。ベビーカーを購入するとき、すべてのモデルを衝突テストすることはできません。あなたは本物で、できれば何かを売りつけているわけではなく、適切な判断力を持っていると思われる評論家を信頼しています。この取り決めには「委任された信頼」という名前があります。

しばらくの間、インターネットの分散版の委任された信頼 (Amazon のレビューや TikTok インフルエンサー) が機関の権威に取って代わられるかのように見えました。なぜそうではないのでしょうか？機関は常に失敗します。彼らは捕らえられ、怠惰になり、自分たちの利益を守ります。しかし、誰でも無限のフリムフラムを生成できる場合、フィルタリングされていないビューに依存することは、真実を合成のおしゃべりで覆い隠すために最も積極的に捏造を展開した人の意見に耳を傾けることを意味します。

そして事態はさらに悪化します。数十年にわたる心理学の研究は、単純な繰り返しによって主張が真実であると感じさせることを示しています。 2015 年の研究では、人々が主張が誤りであると知っている場合でも、この「真実の錯覚効果」が持続することが実証されました。 AI によって、もっともらしい物語を安価に大量に繰り返すことが可能になると、親しみやすさが信頼性に取って代わられます。それは誰もが自分で考えて解決できる問題ではありません。

しかし、多くの場合、誰かを信頼しなければなりません。何を買うか、どこに投資するか、誰に投票するかに至るまで、人生には決断が多すぎます。そこでは、どんなに能力があっても、人々は導きを必要とします。

そこで私の予測は次のとおりです。AI が生成したコンテンツがオープン ウェブを圧倒するにつれて、信頼は再集中化するでしょう。人々は、有名な機関、名前の挙がった著者、目に見える編集プロセスに依存するようになるでしょう。また、著名なジャーナリストや実際の歩道や空港で自分の子供と一緒にベビーカーをテストする親インフルエンサーなど、実績のある個人に頼ることになるだろう。どちらの場合も鍵となるのは信頼性です。実在の人物が真実で信頼できる情報を提供していると確信できます。

機関はそのギャップを埋めることができます。このコラムに同意しない人もいるかもしれませんが、ブルームバーグが私が実在していると言っているので、私が実在の人物であることは間違いありません。組織の誰かが私に会って資格情報をチェックし、もし私がブレザーを着た ChatGPT-5.2 であることが判明したら解雇されるでしょう。これは大した量ではありませんが、現在公開されているほとんどの内容よりも多いです。

この種の検証インフラストラクチャを構築した組織は、利益を得始めています。ニューヨーク・タイムズは2016年にワイヤーカッターを3,000万ドルで買収し、現在では同メディア企業の購読バンドルの主要な原動力となっており、同メディアが属するより広範なカテゴリー（アフィリエイト、ライセンス、その他の収入）は2025年第2四半期には7,050万ドルに達した。ウィキペディアのボランティア編集者軍団（調達基準を徹底する生身の人間）のおかげで、ウィキペディアは同じ理由でインターネット上で最も信頼できるサイトの一つになった。キュレーション。

国民の不信感が永続的であると想定している機関は、信頼性への投資が不足することになります。それは戦略上の間違いです。信頼性はゆっくりと高まります。人々があなたをデフォルトとして扱うには、編集基準、調達規律、説明責任を何年も費やす必要があります。今後の信頼の再集中化から恩恵を受ける機関は、市場が要求する前にそのインフラを今構築している機関です。

問題は、信頼が再集中化するかどうかではない。それが実現したときに、どの機関が準備を整えるかです。