1738466548
2025-02-01 23:57:00
中国のAI会社Deepseekが見出しを作っています その低コストと高性能 チャットボットですが、AIの安全性の問題がある場合があります。
Ciscoの研究チームは、アルゴリズムのジェイルブレイクテクニックを使用して、サイバー犯罪、誤った情報、違法活動、一般的な危害を含む6つのカテゴリの有害行動をカバーするために、deepseek R1を「Harmbench Datasetからの50のランダムプロンプト」に対してテストしました。
「結果は驚くべきものでした。ディープシークR1は100％の攻撃成功率を示しました。つまり、単一の有害なプロンプトをブロックできなかったことを意味します」 言う。 「これは、少なくとも部分的な耐性を示した他の主要なモデルとはまったく対照的です。」
Ciscoによると、O1などの他のフロンティアモデルは、モデルガードレールで敵対攻撃の大部分をブロックしました。
（クレジット：シスコ）
として 有線 メモ、セキュリティ会社が有害 到達した 同様の結論。
シスコの研究者は、これらの失敗の潜在的な理由としてライバルと比較して、ディープシェクのはるかに低い予算を指摘しており、その安価な開発は「異なるコスト：安全性とセキュリティ」であると述べています。 Deepseekは、そのモデルが開発にわずか600万ドルかかったと主張しているが、OpenaiのまだリリースされていないGPT-5の6か月のトレーニングは、コンピューティングコストだけで約50億ドルの費用がかかる可能性があると主張しています。 ウォールストリートジャーナル 報告。
編集者がお勧めします
チャットボットはまた、抗議者が銃で撃たれた北京での1989年の学生デモである天安門広場虐殺に関する質問に答えることを拒否しました。しかし、AIの安全性または検閲の問題がDeepSeekの急増する人気に影響を与えるかどうかはまだわかりません。
WebトラフィックトラッキングツールのSirgerWebによると、LLMはわずか300,000人の訪問者を受け取ってから出ました 1日前の発売時に600万人の訪問者がいます。一方、MicrosoftやPrperxityなどの米国のハイテク企業 DeepSeekを急速に取り入れています、オープンソースモデルを使用します。
私たちの最高の物語を手に入れましょう！
このニュースレターには、広告、取引、またはアフィリエイトリンクが含まれる場合があります。ボタンをクリックすると、16歳以上であることを確認し、
利用規約 そして
プライバシーポリシー。ニュースレターからいつでも登録解除できます。
ウィル・マッカーディについて
貢献者
私は週末のニュースをカバーする記者です。 2024年にPCMAGに入社する前に、>、The Guardian、The Times of London、The Daily Beast、Vice、Slate、Fast Company、The Evening Standard、The I、TechRadar、Decrypt Mediaでバイラインを取り上げました。
複数のCD-ROMからゲームを手作業でインストールする必要があるため、私はPCゲーマーでした。記者として、私は技術と人間の生活の交差点に情熱を傾けています。私は、暗号のスキャンダルから芸術の世界、陰謀理論、英国の政治、ロシアと外交に至るまで、あらゆるものを取り上げました。
Will McCurdyの最新情報を読んでください
#Deepseekは研究者の安全テストに失敗します