検索クエリに迅速に回答するように設計されたGoogleのAIの概要は、伝統的なリンクからユーザーを引き離すことで、偽の情報の「幻覚」を吐き出し、出版社をアンダーカットすると伝えられています。
ビッグハイテクの巨人 – 昨年、女性の教皇と黒人バイキングの画像を生成した「目が覚めた」AIツールをリリースした後、お湯に上陸しました – 要約で虚偽の、時には危険なアドバイスを提供することに対する批判を集めました、 ロンドンの時代によると。
検索クエリに迅速な回答を提供するように設計されたGoogleの最新の人工知能ツールは、批判に直面しています。 Google CEOのSundar Pichaiが描かれています。 Getty Imagesを介したAFP
あるケースでは、AIの概要 ピザソースに接着剤を追加することをお勧めします チーズがより良くなるのを助けるために、アウトレットが報告しました。
別の場合、それは偽のフレーズを説明しました – 「あなたは2回アナグマをなめることはできません」 – 正当なイディオムとして。
コンピューター科学者が呼ぶように、幻覚、評判の良いソースの可視性を低下させるAIツールによって悪化します。
ユーザーをウェブサイトに直接誘導する代わりに、検索結果から情報を要約し、いくつかのリンクとともに独自のAIに生成された回答を提示します。
Analytics Firm Authoritasの創設者であるLaurence O’Tooleは、ツールの影響を調査し、AIの概要が表示されると、パブリッシャーWebサイトへのクリックスルーレートが40％〜60％低下することを発見しました。
「これらは一般的に人々が一般的にしていないクエリ用でしたが、改善するために必要な特定の領域を強調しました」とGoogleの検索責任者であるLiz Reidは、接着剤オンピザ事件に応じてThe Timesに語りました。
Google AIモードは、人工知能と大規模な言語モデルを利用してGoogle検索クエリを処理する実験モードです。ゲッティイメージズ経由のガド
この投稿はGoogleからコメントを求めています。
AIの概要は昨年の夏に導入され、GoogleのGemini Languageモデルを搭載しました。これは、OpenaiのChatGPTに似たシステムです。
国民の懸念にもかかわらず、Google CEOのSundar Pichaiはツールを擁護しました The Vergeとのインタビュー、ユーザーがより広範な情報源を発見するのに役立つと述べています。
「昨年、私たちが人々に送り込んでいる領域の幅が増えていることは明らかです。私たちは間違いなく、より広範なソースや出版社にトラフィックを送っています」と彼は言いました。
Googleは独自の幻覚率を軽視しているようです。
ジャーナリストがGoogleを検索して、AIが物事を間違える頻度に関する情報を検索したとき、AIの反応は幻覚率が0.7％から1.3％の間で主張されました。
GoogleのAIの概要は昨年の夏に導入され、ChatGptに似たシステムであるGemini Languageモデルを搭載しています。 AP
ただし、AI監視プラットフォームの顔のデータは、最新のGeminiモデルの実際のレートが1.8％であることを示しています。
GoogleのAIモデルは、自分の行動に関する事前にプログラムされた防御も提供しているようです。
AIがアートワークを「盗む」かどうかに応じて、このツールは「伝統的な意味で芸術を盗まない」と述べました。
人々がAIを怖がらせるべきかどうかを尋ねられたとき、ツールは「恐怖は誇張されているかもしれない」と結論付ける前にいくつかの一般的な懸念を歩きました。
一部の専門家は、生成的AIシステムがより複雑になるにつれて、間違いを起こしやすくなりつつあるのではないかと心配しています。また、作成者でさえ、その理由を完全に説明できないことを心配しています。
幻覚に対する懸念はGoogleを超えています。
Openaiは最近、O3およびO4-MINIとして知られる最新モデルを認めました。 以前のバージョンよりもさらに頻繁に幻覚を起こします。
内部テストでは、O3が症例の33％で情報を構成しましたが、O4-Miniは特に実際の人々についての質問に答えるとき、48％の確率でそうしました。
#GoogleのAIの概要は誤った情報を広めることで幻覚です