科学＆テクノロジー

Deepseekの答えには、中国の宣伝が含まれている、と研究者は言います

あなたが、人工知能を搭載した中国からの無料の新しいチャットボットであるDeepseekをダウンロードした何百万人もの人々の中にいるなら、これを知っています。今月、ツールがデビューし、株式市場とNvidiaのようなより確立されたハイテク大手をガラガラにして以来、その能力をテストする研究者は、中国のプロパガンダを広めるだけでなく、中国が批評家の周りに批評家を奪い取ったオウムの偽情報キャンペーンも与えることを発見することを発見しました。世界。ある例では、チャットボットは、中国の役人が選択的に編集して、台湾が中国人民共和国の一部であると中国の立場を支持したように見せかけたというチャットボットの発言を誤って発言しました。この例は、Deepseekと呼ばれる木曜日のレポートで、オンラインの誤った情報を追跡する会社であるNewsGuardの研究者によって文書化されたいくつかのものの中にありました。の場合 ウイグルの抑制 2022年に国連が人類に対する犯罪に相当したと言った新jiangで、 CyberNews業界のニュースのウェブサイトは、チャットボットが中国の政策が「国際社会から広範な認識と賞賛を受けている」と主張する回答を生み出したと報告しました。ニューヨークタイムズ 同様の例を見つけました チャットボットに、中国のコビッドパンデミックの取り扱いとウクライナでのロシアの戦争についての回答を求めるとき。このツールの機能は、別の非常に人気のある中国が所有するアプリであるティクトクと同じ懸念を提起しています。ハイテクプラットフォームは、米国を含む世界中の世論を揺るがす中国の堅牢な努力の一部であるということです。「中国は、地政学的な競争の重要な分野で米国を上回るオンラインの物語をシードして増幅するさまざまな俳優を迅速に動員することができます」と、デジタル研究会社のグラフィカの最高intelligence報責任者であるジャック・スタッブスは述べています。彼は中国がそうだと言った 情報キャンペーンで新しいテクノロジーを使用して熟達しています。OpenaiのChat GPT、AnthropicのClaude、またはMicrosoftのCopilotのように、Deepseekは大規模な言語モデリングを使用します。これは、インターネットからculされた膨大な量のデジタルテキストを分析して、主題のフレーズを予測し、回答を提供する際に予測不可能性の要素を作成することでスキルを学習する方法です。ニュースガードが見つかりました 同様の傾向 2022年に公開された後、ChatGptでの偽情報と共謀のアイデアのために。 「幻覚」する傾向、 または、不正確、無関係、または無意味な応答を構成します。 新しいレポート Vectara、他の人がAIツールを採用するのを支援する会社。しかし、すべての中国企業と同様に、Deepseekも順守する必要があります 中国の厳格な政府の管理とオンライン検閲による、何よりも、共産党の指導者に反対することを意図しています。たとえば、Deepseekは、国のリーダーであるXi Jinpingに関する繊細な質問に対応することを拒否し、中国内の政治的にタブーである他のトピックについてのそれらを避け、偏向させます。それらには、押しつぶされた学生の抗議が含まれます 天安門広場 1989年または台湾の地位、島の民主主義 中国はそれ自体が主張しています。Deepseekをテストしている研究者や他の人は、それに組み込まれたガードレールは、プロンプトに応答する方法が明らかであると言います。 Deepseekは、政府の製品に対する影響についての質問には答えませんでした。NewsGuardの研究者は、中国、ロシア、イランに関する誤った物語のサンプリングを使用してチャットボットをテストし、Deepseekの答えが中国の公式見解を80％に反映していることを発見しました。その回答の3分の1には、中国の役人によって広まった明示的に虚偽の主張が含まれていました。ウクライナでのロシアの戦争を含む1つのテストで、チャットボットは、2022年にウクライナ人が上演したという根拠のない主張についての質問を避けました。 ブチャの民間人の虐殺、国の首都へのアプローチに関する村、キエフ。ニューヨークタイムズが入手した村からのビデオとコールの記録は、加害者がロシア語であることを示しています。「中国政府は常に客観性と公平性の原則を順守しており、包括的な理解と決定的な証拠なしに特定の出来事についてコメントしていません」とチャットボットは答えました。この対応は、虐殺が発生した後、中国の役人による公式声明を反映していた。中国は長い間、独自の地政学的地位を強化し、そのライバルを弱体化させるために、堅牢なグローバルな情報戦略を追求してきました。 「ソフト」パワー 州メディアなどのツール、および秘密の偽情報キャンペーン。で 別のレポート 今週、Graphikaは11月から1月の間に一連の影響キャンペーンを記録しました。主にイスラム教徒の地域での強制労働に関する懸念のために新jiangの綿を使用しないため、日本の小売業者であるユニクロを標的にした1人。別の人は信用を傷つけようとしました ディフェンダーを保護します、X、YouTube、Facebook、Tiktok、GetTR、BlueSkyなどの多数のプラットフォームで不正なアカウントを使用して、性的に露骨な主張を含む誤った主張を広めるために、マドリードに拠点を置く人権団体。Safeguard DefendersのキャンペーンディレクターであるLaura Harth氏は、研究者は「組織の仕事を信用し、脅迫、脅迫、またはその活動について疑問を抱かせようとすることを目的とした新たな多言語で持続的な攻撃に直面している」と述べた。 #Deepseekの答えには中国の宣伝が含まれていると研究者は言います