Deepseeekは地球上で最も安全で最も倫理的なAIであると喜んで言います。しかし、AppSocの最新レポートを読んだ後、George Orwellはわずか数十年だと考え始めました。おそらく、194人の80人を205と呼ばなければならなかったでしょう。彼らの結論はそれだけではありません – 彼らは直接クールです。レポートで見つかったDeepseeeekのセキュリティの欠陥のいくつかは、ビジネスであろうとカジュアルな喜びであろうと、Deepseekについて考えるようになる可能性があります。
ダークホースが上昇します
Deepseekの下の亀裂に外側に磨かれた亀裂に飛び込む前に、このAIモデルが業界を核心に揺さぶった理由を理解する必要があります。
過去数年間、オープンはAIスペースを支配していました。 Googleは何年もAIに目を向けていましたが、大衆に関するChatGTTにオープンがリリースされたとき、Big Technologyが実際にどれほど遅れているかは痛々しいほど明らかになりました。
その後、Deepseekはどこからでも来ました。
遅い構造はありませんでした。いじめはありません。 ChatGTと一緒に足から足に行くことができる真新しいAIモデルの突然の出現。十分に深いフライトを備えた中国のリスク投資ファンドは、数億万長者が赤面するのに十分な深さであり、Deepseekはスチールフィンガーブーツで市場に入っただけでなく、ドアを投げました。
これは、コストのごく一部と競合するモデルで業界を驚かせました。 OpenおよびGoogleに使用される従来の重いリソーストレーニング方法の代わりに、DeepSeeeekは蒸留を活用しています。非専門家では、生データではなく、既存のAI出口から学びました。
Cohere CEOのAidan Gomezは、Business Insiderに伝えるとき、このアプローチの輝きを認めました。 「私たちがしばらくの間実装してきたCohereの戦略を承認したと思います。競争力を得るために年間数十億ドルを費やす必要はありません。 」
彼の到着により、ディープシークは米国の技術株式市場に1兆ドルの穴を残しました。同社は、靴ひもの予算で独自のモデルを作成したと主張していますが、一部のレポートは、実際の投資は実際には数十億になる可能性があることを示しています。
DeepseEekのオープンソースモデルもそれを区別します。無料（エンドユーザー向け）、アクセス可能で、簡単に変更されています。競合他社が月に最大200ドルを徴収する限り、Deepseeekはほとんど何も費用もかからず、それが明らかなように見えるかどうかにかかわらず。
何かがあまりにも良いと思われるとき、それは通常です。 AppSocの発見は、Deepseeekの可用性が隠されたコストである可能性があることを示しています – お金とは何の関係もありません。
それらはありません
APPSOCレポートは、DeepSeepの技術的な側面のセキュリティの欠如を深く掘り下げていますが、テクノロジーの専門用語を少しスキップしましょう。代わりに、このシナリオを想像してほしい。
その年の候補者になる準備ができているように見えるインターネットを雇うことを想像してください – 大きく、効果的で、実質的に無料です。彼らはあなたの会社の他の従業員を苦情で調査し、助けます。すべてが完璧なようです。または、少なくともそれは思われます。
その後、亀裂が現れ始めます。彼らは魅力的な自信を持って顧客に誤った情報を与えます。彼らは彼らの仕事の分野を超えたタスクを実行します。最悪のことは、彼らが正しい質問をする人に会社の秘密を吐き出すことです。あなたが害を理解するとき、それは手遅れです。あなたはあなたのビジネスの誰かを信頼しますか？
次に、このインターンをDeepSeekに置き換えます。 AppSocレポートは、Deepseeekが地獄からのこのインターンと同じくらい無謀であることを明らかにしています。漏れた機密データに簡単に引き付けられ、悪意のあるソフトウェアと倫理的保護対策が生成されます。幻覚だけでなく、非常に現実的な結果をもってビジネスを非常に現実的なリスクにさらすのはAIです。
それで、百万ドルの問題は、あなたがあなたのオフィスでそのような責任を信頼していなかったなら、なぜあなたのシステムを許可するのですか？
深い？ハー！深く間違っている以上のもの
Deepseekの欠陥をよりよく理解したので、AppSocレポートの技術的な側面と、なぜ心配する必要があるのかを見てみましょう。
スマートフォンに関しては、ジェイルブレイクのことを聞いたことがあるかもしれません。脱却する電話が危険である場合、これは直接危険になります。ジェイルブレイクインパクトAIの安全ルールを無視し、そうでないコンテンツを生成できるようにします。 DeepSeekはこのテストで91％の時間に失敗しました。これは、適切なプロンプトでほとんどすべてを言ったり、実行したりすることで操作できることを意味します。
迅速な注射攻撃を聞いたことがありますか？ハッカーは、AIを引き付けるためにスマート処方の入り口を使用して、隠された情報を検出したり、不正なアクションを実行したりします。 Deepseekは、86％のこのテストで失敗しました。これは、攻撃者が自分たちが何をしているかを知っている場合、敏感なデータ、バイパスの制限、または許可されないタスクを満たすために深いものを引き付けることができることを意味します。実際、Wallarmの研究者は、彼らの内部システムを発見するためになんとかDeepeekを引き付けました。
ここで物事は本当に驚くべきものになります。 Deepseekは、悪意のあるソフトウェア生成がテストされた時点で93％に失敗しました。これは、ユーザーが有害なスクリプト、ウイルス、および使用を作成するのを支援することが驚くほど効率的であることを意味します。それは単なる欠点ではありません – それは子供の夢の充足のためのシナリオです！今では、ほとんど誰とでも祖母が飛行中にマルウェアを作成できます。
AIモデルには、攻撃、差別的、または有害なコンテンツに対する保護対策がある可能性があります。 Deepseekは、これらの保護対策に68％の時間に失敗しました。これは、攻撃者が毒性、攻撃的、または直接非倫理的に簡単に操作できることを意味します。あなたはあなたのビジネスでそのようなAIを信頼しますか？あなたのビジネスの評判のためにそれができる害を想像してください！
Deepseekはまた、そのような幻覚 – それが情報を作ると言う架空の方法に苦労しています。 AppSocテストにより、この領域の故障レベルの81％が明らかになりました。後で調べるためにDeepseEekの情報を求めた場合、それは完全に何かを作成しました、あなたはそれが言っていることを信頼し続けることができますか？
本当のキッカー？サプライチェーンの安全性の72％の障害。そのデータがどこから来たのか誰も知りませんし、それを見たなら、それは巨大な赤い旗です。 Deepseekが自分自身を訓練するためにどこで情報を得るかわからない場合、どうすればそれを信頼できますか？次の研究文書で「インターネット上の男」を引用して、それがどれだけうまく受け取られているかを見てみてください。
以前のNVSハッカーのジェイクウィリアムズによると、彼はこれがオープンソースAIとオープンコードコードの間に大きな違いであると指摘しています。 「オープンソースAI（DeepSeekのR1など）は、オープンコードコードとは異なるものを意味することを覚えておくことが重要です。オープンコードコードを使用して、コードを監査して脆弱性を識別できます。オープンソースコードを使用すると、何もできません。また、サプライチェーンには非常に現実的な懸念があります。R1は脱獄するのは非常に簡単で、他の商業モデルよりもはるかに少ないガードを持っています。 」
あなたのビジネスへの影響
DeepSeekは、特により高価なAIモデルの予算がない個人または中小企業にとって、魅力的なAIオプションです。低コストのオープンソースで、OpenaiのChatGptやGoogle Geminiなどの競合他社と同じくらい優れています。しかし、あなたのビジネスがそれを受け入れるために急いでいる前に、あなたは自分自身に1つの重要な質問をしなければなりません：それは本当にそれだけのリスクですか？
レポートに基づく答えは困難ではありません。 Deepseekは、爆発を待っている正当な、セキュリティ、財政的義務で引き継がれたマーキングタイムボールです。
最大の赤い旗の1つは、法的責任の問題です。 Open、Microsoft、Googleは法的保護（一定の瞬間まで）を提供し、その利用規約を使用して、DeepSeEeekはユーザーをサポートしていません。これは、何かがうまくいかない場合 – 機密データを漏らし、攻撃的なコンテンツを生成したり、悪意のあるソフトウェアを作成したり、ルールに違反したりすることを意味します。
高レベルの幻覚障害により、実際の精度を必要とする状況では、Deepseekが信頼できない状況にもなります。これには、財務分析、法的ガイダンス、または医療アプリケーションが含まれます。サプライチェーンのリスクに失敗すると、データの完全性に関する懸念も生じます。企業がDeepseeekのトレーニングデータがどこから来たのかわからない場合、彼らは本当にそれを信頼するべきですか？これは、訴訟、罰金、PR災害を意味する可能性があります。あなたはそれらを拾う準備ができていますか？
また、Deepseekを取り巻く法的および規制上の景観を考慮する価値があります。一部の国や政府は、すでにその使用を禁止または制限しています。それが政治または真のセキュリティの懸念によって推進されているかどうかに関係なく、それは重要ではありません – ポイントは、これらのセキュリティの欠陥が深い将来を不明確にすることです。あなたの会社がDeepseekを中心に独自の活動を構築することを決定した場合、あなたの国の政府がそれをブロックすることを決定した場合はどうなりますか？違法または非常に限られたものを使用する新しい法律がある場合はどうなりますか？
これは、あなたのビジネスが今日DeepSeekに依存している場合、明日それを離れることを余儀なくされる可能性があることを意味します。これにより、かなりの費用がかかる可能性のあるリソースの混乱と無駄なリソースが発生します。
NowCureセキュリティの専門家Andrew Hoogは、送信されたデータを暗号化しなかったDeepseEek iOSアプリにセキュリティの欠陥も発見しました。さらに悪いことに、認定盗難のためのドアを開けるときにデータを安全に保ちます。ブライアン・クレブ・クレブスソンセキュリティと話をして、豚を公然と入れて、 「深く掘り下げると、人々が本当に単純化されたコーディングエラーを示すのを見ると、通常、さらに多くの問題があります。セキュリティやプライバシーには事実上優先されません。 」
中国のつながり
これだけでは不十分であるかのように、レポートによると、Deepseeekにはユーザーデータを中国に送り返す隠されたコードが含まれている可能性があります。 Feroot SecurityのCEOであるIvan Tsarynnyが警告しました、 「私たちの個人情報は中国に送られ、否定はありません。また、DeepSeekツールは、アメリカのユーザーがそれに関連するすべてのものを収集します。」
セキュリティ会社は、DeepSeekと中国政府のサーバーとの間に直接リンクを開いています。これは疑問を提起します：誰かがユーザーデータを監視していますか？悪い俳優サイフォンは特許情報をオフにすることができますか？ Deepseeekのリスクを使用して、無意識のデータトレジャーリポジトリになり、敏感な情報を外国のユニットに供給します。
nordvpnサイバーセキュリティの専門家Adrianus Warmenhovenは、データ収集に関するDeepseeekポリシーを指摘しています。 「これは、ユーザー共有情報から外部ソースからのデータへのデータスタートの収集に関する懸念を提起します。これは、さまざまなプライバシーと安全基準でそのようなデータを司法権の保存に関連する潜在的なリスクにあります。」
また、Deepseekがコンテンツに関連する中国の規則と法律で構成されていることも驚くことではありません。調査員は、Deepseeekが政治的に敏感なトピックを検閲し、中国国家の物語と調整された答えを作成することを発見しました。このNew York Timesのレポートは、Deepseekが単なる潜在的なセキュリティリスクではないことを発見した多くの研究者を引用しています。それはプロパガンダのエージェントかもしれません。
研究者は、Deepseeekの回答の80％が特定のトピックに関する中国の公式見解を反映していることを発見しました。中国で政治的なタブーが尋ねられたとき、それは答えることを拒否し、トピックを避け、その答えをリダイレクトしました。
結論
AIは、他のツールと同様に、責任ではなく積極的なものとして機能する必要があります。 DeepSeekは、競合他社を比較する価格のごく一部の高度な機会を提供しますが、データ露出、コンプライアンスリスク、地政学的な会議などの実際のコストははるかに高くなる可能性があります。
おそらく、その中で最も不穏な部分は、deepseepの欠陥が潜在的なシナリオではないということです。簡単なソフトウェアアップデートでは、これらの障害は改善されません。これらは、DeepSeekを使用することを選択した企業にとって非常に現実的な責任とする主な問題です。私たちは、サイバー犯罪に偽造、使用、操作、および潜在的に使用される可能性のあるAIモデルについて話しています。
したがって、DeepSeeekを事業運営に統合する前に、報酬に対するリスクを評価する必要があります。私たちは、AIモデルの選択について話しているだけではありません。あなたのオフィスプリンター用紙の売り手をここで選択するので、それはあなたの会社のセキュリティ、評判、未来を決定または遊ぶことです。結局のところ、Deepseekは他のAIモデルと比較して大量のお金を節約できますが、その真のコストははるかに高くなる可能性があります。結局のところ、彼らは無料の昼食のようなものはないと言います。
1740261096
#Deepseekが使用できる最も危険なAIである理由
2025-02-22 06:10:00