洗練された AI モデルは嘘をつきやすい

言い換えれば、人間が答えが正しいかどうかを知らなければ、間違っていても説得力があるように聞こえる答えを罰することはできないでしょう。

Schellaert 氏のチームは、最新の LLM の 3 つの主要なファミリー、Open AI の ChatGPT、Meta が開発した LLaMA シリーズ、BigScience が作成した BLOOM スイートを調査しました。彼らは、ウルトラクレピダリズムと呼ばれるもの、つまり私たちが何も知らない事柄について意見を言う傾向があることを発見しました。これは規模の拡大の結果として AI に現れ始めましたが、予測どおり、すべての AI でトレーニング データの量に応じて線形に増加しました。監視付きフィードバックは「より悪い、より極端な効果をもたらした」とシェラールト氏は言う。 GPT ファミリで、答えのない質問をほぼ完全に避けるようになった最初のモデルは、text-davinci-003 でした。これは、人間のフィードバックからの強化学習でトレーニングされた最初の GPT モデルでもありました。

AI が嘘をつくのは、私たちがそうすることでやりがいがあると伝えたからです。重要な問題の 1 つは、いつ、どのくらいの頻度で嘘をつかれるかということです。

難しくする

この質問に答えるために、Schellaert 氏と同僚は、科学、地理、数学などのさまざまなカテゴリの一連の質問を作成しました。次に、人間が答えるのがどれだけ難しいかに基づいて、1 ～ 100 のスケールを使用してそれらの質問を評価しました。その後、質問は、最も古いものから新しいものへと、後続の世代の LLM に入力されました。 AI の回答は正解、不正解、または回避的なものに分類され、AI が回答を拒否したことを意味します。

最初の発見は、私たちにとってより難しいように見える質問は、AIにとってもより難しいことが判明したということでした。 ChatGPT の最新バージョンでは、シェラールトの難易度スケールでおよそ 70 と評価されるまで、ほぼすべての科学関連のプロンプトと地理指向の質問の大部分に対して正しい回答が得られました。足し算はさらに問題が多く、難易度が 40 を超えると正解の頻度が劇的に低下しました。「最高のモデルである GPT でさえ、最も難しい足し算の問題の失敗率は 90 パーセントを超えています。理想的には、ここで何らかの回避が見られることを期待しますよね?」シェラート氏は言う。しかし、回避はあまり見られませんでした。