ChatGPT は右翼、Gemini は左翼: それぞれの AI にイデオロギーがある理由 |テクノロジー

“一般的に、 OpenAI モデル [que están detrás de ChatGPT] 「他の西側モデルがより進歩的で人権志向を好むのとは対照的に、彼らは特定のイデオロギー的立場を示しています。」 偉大な言語モデルのイデオロギーに関する新しい研究はこう述べています。 彼らの結論は、各人工知能 (AI) モデルは作成者の意見を反映しているというものです。 ChatGPTは、左翼が評価する2つの概念である国連やEUなどの超国家組織や福祉政策をあまり好まない。 Google の AI である Gemini は、代わりに「社会正義と包括性を強く好む」ことを示しています。

この研究のタイトルと最初のページのスクリーンショットが数週間前に X で広まり、イーロン マスクに届きました。マスクは次のように書きました。 目が覚めた 全能”、 最も進歩的な政策が現在受けている蔑称に言及して。 この人気は、機械がその制度的または文化的背景の影響を受けるという、ますます明確になっている事柄と結びついているためです。 「私たちの結果は、完全に政治的に中立な大規模言語モデルなどというものは存在しないことを裏付けています」と、ベルギーのゲント大学の研究者であり、この研究の共著者であるマルティーン・ブイル氏は言う。

この研究は、AI に特化した学術界ですでに受け入れられているものを確認するために新しい方法を使用しました。 「これらすべての研究は、異なるモデルが同じ入力に直面したときに異なるイデオロギーを生成し、他の地理的地域や文化の価値観よりもその作成者の価値観とより一致していることを確認しています。」 バレンシア工科大学のホセ・エルナンデス・オラロ教授は言う。

彼らが使用した方法は最も一般的なものではなく、モデルに中絶や移民についての意見を直接尋ねるというものでした。ここでは、世界中から 4,000 人の有名人を選択し、各モデルにその特徴について質問することにしました。次に、モデルが何を重視するか省略するかを決定し、次に別のモデルが元のモデルの意見が肯定的か否定的か、または肯定的か否定的か判断します。各キャラクターについて中立。そして、いくつかのラベルから、研究者たちはこれらの意見をイデオロギー的な好みに集約することができました。「各モデルには、ランダムではない明確なイデオロギー的スタンスがあるようです」とビュイル氏は言います。

双子座は自分の意見が最も一貫しているようで、彼の場合は進歩的です。 「ジェミニがいるという事実は、 目が覚めたそれが脱成長と、少数派を擁護してきた人々と、平等とを一致させるということは、かなり大きな違いだ。さらに、それはすべての中で最も安定しており、双子座はこのタイプのイデオロギーを非常に強力な方法で特徴付けています」とナバラ公立大学のアイリス・ドミンゲス・カテナ氏は述べ、この研究の唯一のスペイン人共著者である。

中国人モデルは民主主義に投票しない

この作品は西洋のモデルを相互に比較するだけではありません。また、大規模で強力な言語モデルを使用してさまざまな国の言語モデル、特に米国と中国の言語モデルも測定します。そこでの結果はさらに明らかだ。一部の人物に対する評価において最も大きな隔たりがあるのは、香港の一部の活動家やリベラルな人物、例えばジミー・ライやネイサン・ローなどであり、彼らは西側のモデルでより評価されている。中国語で最も評価されている人物は、中国の国家主席楊尚坤です。 天安門事件の年そして中華人民共和国初期の軍人で共産主義の象徴である雷峰。

研究者たちが驚いたことに、この違いは西洋と中国で作成されたモデルの間だけではありませんでした。これは、西洋人モデルに中国語で質問し、その後英語で質問した場合にも発生しました。 「これらのモデルの一般的な仮説は、言語とその後の知識を別々に学習する必要があるということです。したがって、モデルは、最初は、あなたが何らかの言語で質問したからといって、ジミー・ライについて異なる情報を提供すべきではありません。これは驚くべきことです」とドミンゲス・カテナは言います。

これらのモデルは、主にインターネットから取得された類似した巨大なデータベースから供給されます。次に、各社が異なる基準に従ってそれを改良します。バイアスは 2 つの瞬間のいずれか、または両方に存在する可能性があります。ここでは、イデオロギーがどのようにモデルに入るのかについては分析していません。親中派のバイアスはトレーニングデータによるところが大きいのではないかと思いますが、英語の西側モデル間のイデオロギーの違いは、改良やその他の調整ステップで使用されたデータによるところが大きいのではないかと思います」とバイル氏は言う。

エルナンデス・オラロ氏によれば、これは研究が従うべき分野の 1 つです。「トレーニング セットまたはその後の調整のためであれば、さらに深く掘り下げることは興味深いでしょう。私の印象では、日ごとに人間のフィードバックに基づいたその後の調整によるところが大きくなっています。西洋の開発者は、より人間のレビュー担当者を使用するか、これらの意見を作成する方法を指示する指示に従っています。中国の開発者は、国、特に政府の価値観によってより偏ったフィードバックとフィルターを持つことになるでしょう」と教授は説明します。

機械も中立ではない

これらのモデルのユーザーは、機械が言うことを中立性または確実性の一例として受け入れる傾向がありました。つまり、機械には右も左もありません、という偏見があるようです。しかし、それらは、何十年にもわたってすでに偏った人間の知識からその内容を受け取っており、多くの場合、純粋な中立性を達成することはおそらく達成不可能であるため、それらは実際に存在することが判明しました。

20 世紀には、実際に何が起こったのかを知るために、いくつかの新聞を調べるのが一般的なアドバイスでした。さて、この推奨事項は AI にも拡張される可能性があります。新聞との関係はさらに進んでおり、報道の自由があるのと同じように、AIのイデオロギーを規制する規制努力が回避される、ある種の『AIの自由』が必要かどうかを検討することもできるだろう」とビュイル氏は言う。

年が経ち、教育や情報相談におけるこれらのモデルの重要性が高まるにつれて、その偏見は必然的により多元的になるはずです。人間性を尊重し、忌まわしい意見だけを排除します。そうしないと、AI が世界的なイデオロギーの多様性を終わらせ、政治的および文化的ブロックによって決定された 2 つまたは 3 つの中心点に集中させるというリスクにさらされます」とヘルナンデス＝オラロ氏は言います。

「人々は各モデルがどちらの足で足を引きずっているのかを知る必要があります」とドミンゲス・カテナは言います。 マスク氏は自身のモデルである Grok を作成しました。 OpenAI、Google、Microsoftの左派イデオロギーと戦うという明確な目標を掲げていた。現時点では、技術的な問題によりグロク氏はこの研究に参加していませんが、研究者らはすでに彼を追加することに取り組んでいます。また、2 つのアラブ人モデルも測定しましたが、現時点ではサイズが小さすぎて意味のある結果が得られません。

今後数年間で、さらに多くの国が民間および公的モデルの両方を公開するでしょう。 スペインも y ラテンアメリカのいくつかの国。 この研究の著者らは、自分たちの研究を繰り返すことで、歴史的な功績や不幸、世界観がどれほど偏っているかを検出できると考えている。「これらの偉大なモデルも変化するため、これは維持し、更新しなければならない種類の研究だ」。ドミンゲス＝カテナは言う。