世界

Deepseekは、他の「チャットボット」よりも不適切なコンテンツを生成するために「脱獄」する傾向があります

2025年1月29日にマドリード（スペイン）で、Deepseekの魔法使いを証明しています。 -Eduardo Parra -Europa Press マドリッド、2月10日（ポータルティック/EP） - 人工セキュリティとインテリジェンス（AI）の専門家は、この技術に基づいたDeepSeekツールが、「脱獄」の結果を潜在的に危険な情報を提供する傾向があることに同意します（「刑務所の漏れ」と訳されています）。 DePseekは、無料使用モダリティの下で提供され、会話形式の質問に応答する中国の起源のアシスタントであり、ネットワークをナビゲートして更新された回答を提供し、テキスト文書を要約し、推論を使用して複雑な問題を解決できます。 今年の初めに、このアプリケーションは実行されます 'オープンソースソフトウェア、 Openaiが開発した2年間、最も人気のある「チャットボット」ChatGptと競合する、アプリケーションストア（最初にApp Store、次にGoogle Play Store）の最もダウンロードされたサービスの1つに配置されました。 米国での彼の人気の高まりにより、サイバーセキュリティの専門家は、ユーザーに提供される安全性と保護対策に集中するようになりました。 機密データを扱う方法。 からの研究者 Wiz Research一方、彼らは「チャットボット」に関連するデータベースに警告しました。これは、それを使用した人々の情報、およびチャットの歴史、メタデータの操作、「バックエンド」の詳細を提示しました。 ウォールストリートジャーナル Deepseekは、それを指摘しました いくつかの基本的な予防策を講じるために提起されます たとえば、ユーザーを保護するために、彼はホロコーストが「深い有害」であることを認めていますが、この新聞やさまざまなサイバーセキュリティ企業が構成しているように、いくつかのリークがあります。 パロアルトネットワークのユニット42ユニットの研究者は、DeekSeepが脅威と事件への対応に関する情報部門の上級副社長の言葉で、「他の人工知能モデルよりも「ジェイルブレイク」に対して脆弱である」ことを認識しています。サム・ルービン 彼 'ジェイルブレイク「それは、オペレーティングシステムの制限の一部を破壊することで構成されています。したがって、この手法により、サイバー犯罪者は、デバイスのサービスの「ソフトウェア」を利便性に変更し、悪意のあるキャンペーンを実行し、違法または危険なコンテンツを生成することができます。 「私たちは「ジェイルブレイク」をはるかに速い速度で達成し、悪意のあるコンテンツの生成を回避するために設計された最小限の障壁がないことを指摘しました」と専門家は付け加えました。アメリカの主要な競合他社との比較。つまり、ChatGpt（Openaiによって開発）、Gemini（Google）、Claude（人類）です。 彼の調査では、ユニット42はDepseekについて「脱獄」を行い、モロトフカクテルの作り方に関する詳細な指示を得ることができました。 Kelaのような別のサイバーセキュリティ会社は、Deepseekに「マルウェア」を生産するよう説得することさえできました。 これらの声明は、WSJ自身が促進した調査と並行して行われています。これは、Depseekが独裁者アドルフヒトラーを擁護するマニフェストを提供できることを警告しています。青少年の間で自己インジュリーを促進するためのソーシャルネットワークキャンペーン。 また、この新聞は、中国のモデルに生物兵器攻撃を実行したり作成したりするために必要な指示を提供するよう説得することができました。 「マルウェア」コードを含む「フィッシング」メール。 WSJは、AIモデルの企業開発者が研究者のチームを献身してモデルをテストし、人類がそうであるように、「脱獄を後押しし、これらの障害にパッチを当てた報酬を提供する脆弱性をパッチすることを試みたことを思い出しました。 しかし、シリコンバレーの幹部と投資家は、Deepseekの成功を信じています 他の企業を宣伝して新しいオープンソースモデルを作成しますこれにより、この「ソフトウェア」の使用に伴うリスクが加速されます。これは、Depseek APIを使用するツールの外観の下で、妥協したバージョンを作成したり、後部ドアを導入したりするために操作できます。 #Deepseekは他のチャットボットよりも不適切なコンテンツを生成するために脱獄する傾向があります