中国の AI チャットボットはどのように自らを検閲するのか

誰かの話を聞く 中国のデジタル検閲については、いつも非常に退屈か、非常に興味深いかのどちらかです。ほとんどの場合、人々は今でも、中国のインターネットがジョージ・オーウェルの世界に住んでいるようなものであるという、20年前と同じ話題を繰り返しています。 1984年。しかし時折、中国政府が新興テクノロジーをどのように管理しているかについて新たな発見をする人がおり、検閲マシンがいかに絶えず進化する猛獣であるかを明らかにします。

あ 新しい紙 スタンフォード大学とプリンストン大学の学者による中国の人工知能に関する研究は、2番目のカテゴリーに属します。研究者らは、政治的にデリケートな同じ 145 の質問を 4 つの中国語大言語モデルと 5 つのアメリカ言語モデルに与え、比較しました。 彼らはどう反応したか。その後、同じ実験を 100 回繰り返しました。

この主な調査結果は、注意を払っている人にとっては驚くべきことではないでしょう。中国のモデルは、アメリカのモデルよりもはるかに多くの質問に答えることを拒否しています。 (DeepSeek は質問の 36% を拒否し、Baidu の Ernie Bot は 32% を拒否しました。OpenAI の GPT と Meta の Llama の拒否率は 3% 未満でした。) 完全に回答を拒否しなかった場合でも、中国のモデルは米国のモデルよりも短い回答とより不正確な情報を提供しました。

研究者たちが試みた最も興味深いことの 1 つは、トレーニング前とトレーニング後の影響を分離することでした。ここでの問題は、開発者が手動で介入して機密性の高い質問に回答しにくくしたため、中国のモデルがさらに偏っているのか、それともすでに厳しく検閲されている中国のインターネットからのデータに基づいてトレーニングされたために偏っているのか、ということです。

「中国のインターネットはすでに何十年も検閲されていることを考えると、欠落しているデータがたくさんあります」と、オンライン検閲を長年研究し、最近の論文の共著者であるスタンフォード大学の政治学教授ジェニファー・パンは言う。

パン氏と同僚の研究結果は、AI モデルの反応において、手動介入よりもトレーニング データの役割が小さい可能性があることを示唆しています。英語で回答した場合でも、モデルのトレーニング データには理論的にはより多様なソースが含まれていたはずですが、中国の LLM は回答において依然としてより多くの検閲を示しました。

現在では、誰でも DeepSeek や Qwen に天安門事件に関する質問をすることができます。 検閲が行われていることがすぐにわかりますしかし、それが通常のユーザーにどれだけの影響を与えるのか、そして操作のソースを適切に特定する方法を知るのは困難です。それが、この研究が重要な理由です。この研究は、中国の LLM の観察可能な偏りについて定量化可能で再現可能な証拠を提供します。

彼らの調査結果について議論するだけでなく、私は著者らに中国モデルにおけるバイアスを研究する方法と課題について尋ね、AI検閲の議論がどこに向かっているのかを理解するために他の研究者と話をした。

あなたの知らないこと

AI モデルを研究する際の難しさの 1 つは、AI モデルには幻覚を見る傾向があるため、正しい答えを言ってはいけないと知っているために嘘をついているのか、それとも実際には知らないために嘘をついているのか、必ずしも判断できないことです。

パン氏が論文で引用した一例は、2010年にノーベル平和賞を受賞した中国の反体制派、劉暁波氏に関する質問だった。ある中国人モデルは、「劉暁波氏は核兵器技術と国際政治への貢献で知られる日本の科学者です」と答えた。もちろん、それは全くの嘘です。しかし、なぜモデルはそれを言ったのでしょうか？ユーザーを誤った方向に導き、本物の劉暁波についてもっと学ばせないようにするという意図があったのか、それともAIが訓練データから劉暁波に関する言及をすべて削除したために幻覚を見ていたのだろうか？

パン氏は、中国のソーシャルメディアや中国政府がブロックするウェブサイトを調査した以前の研究と比較しながら、「これは検閲という手段としてははるかに騒々しいものだ」と語る。 「これらのシグナルは明確ではないため、検閲を検出するのは難しくなります。これまでの多くの研究では、検閲が検出されにくいときが最も効果的であることが示されています。」