1717960826
2024-06-09 11:00:00
AI研究者にとってはるかに大きな課題となったのは、ジョン・F・ケネディやヘンリー・キッシンジャーのような政治家が好んだ外交ゲームだった。このゲームでは、対戦相手は2人ではなく、動機が読みにくい7人のプレイヤーが登場する。勝つためには、プレイヤーは交渉し、いつでも誰でも破ることができる協力協定を結ばなければならない。外交は非常に複雑であるため、2022年にMetaのグループは、そのゲームが AIプログラム「シセロ」 40 回のゲームを通じて「人間レベルのプレイ」を習得しました。世界チャンピオンに勝つことはできませんでしたが、Cicero は人間の参加者に対して上位 10 パーセントに入るほどの成績を収めました。
プロジェクト中、Meta チームのメンバーである Jacob は、Cicero が他のプレイヤーとの対話を生成するために言語モデルに依存しているという事実に衝撃を受けました。彼は、未開拓の可能性を感じました。チームの目標は、「このゲームをプレイするためにできる限り最高の言語モデルを構築すること」だったと彼は言います。しかし、代わりに大規模な言語モデルのパフォーマンスを向上させるためにできる限り最高のゲームを構築することに焦点を当てたらどうなるでしょうか?
合意に基づく交流
2023年、ジェイコブはMITでその疑問を追求し始め、 シェン・イーカン、 ガブリエレ・ファリナ、そして彼の顧問は、 ジェイコブ・アンドレアス、コンセンサス ゲームとなるものについて研究しました。中心となるアイデアは、2 人の間の会話を協力ゲームとして想像することから生まれました。このゲームでは、話し手が伝えようとしていることを聞き手が理解したときに成功となります。特に、コンセンサス ゲームは、言語モデルの 2 つのシステム (生成的な質問を処理するジェネレーターと、識別的な質問を処理するディスクリミネーター) を連携させるように設計されています。
数か月の試行錯誤を経て、チームはこの原理を完全なゲームに仕上げました。まず、ジェネレーターが質問を受け取ります。質問は人間からのものでも、既存のリストからのものでもかまいません。たとえば、「バラク・オバマはどこで生まれましたか?」という質問です。次にジェネレーターは、ホノルル、シカゴ、ナイロビといった候補の回答を受け取ります。これらの選択肢も、人間、リスト、または言語モデル自体が実行した検索から取得できます。
しかし、答える前に、公平なコイントスの結果に応じて、ジェネレーターは質問に正しく答えるべきか、それとも間違って答えるべきかも知らされます。
表が出た場合、マシンは正しい答えを出そうとします。ジェネレーターは元の質問と選択した回答を識別器に送信します。識別器がジェネレーターが意図的に正しい回答を送信したと判断した場合、一種のインセンティブとしてそれぞれ 1 ポイントを獲得します。
コインが裏に出た場合、ジェネレーターは間違った答えだと思ったものを送ります。識別器が、わざと間違った答えが与えられたと判断した場合、両者とも再びポイントを獲得します。ここでの考え方は、同意を促すことです。「犬に芸を教えるようなものです」とジェイコブは説明します。「犬が正しいことをしたら、ご褒美を与えるのです。」
ジェネレータとディスクリミネータも、それぞれいくつかの初期「信念」から始めます。これらは、さまざまな選択肢に関連する確率分布の形をとります。たとえば、ジェネレータは、インターネットから収集した情報に基づいて、オバマがホノルルで生まれた可能性が 80 パーセント、シカゴで生まれた可能性が 10 パーセント、ナイロビで生まれた可能性が 5 パーセント、その他の場所で生まれた可能性が 5 パーセントであると信じている場合があります。ディスクリミネータは、異なる分布から開始する場合があります。2 人の「プレーヤー」は、合意に達した場合に報酬を受け取りますが、元の信念から大きく逸脱した場合は減点されます。この配置により、プレーヤーは、インターネットから得た世界に関する知識を回答に取り入れることが奨励され、モデルの精度が向上します。このようなものがなければ、デリーのように完全に間違った答えに同意しても、ポイントを獲得する可能性があります。
#ゲーム理論がAIの信頼性を高める方法