Microsoft Securityを使用したDeepSeekおよびその他のAIシステムを保護します

AI変換の成功は、強力なセキュリティ基盤から始まります。 AIの開発と採用が急速に増加するため、組織は新たなAIアプリとツールを可視化する必要があります。 Microsoft Securityは、脅威保護、姿勢管理、データセキュリティ、コンプライアンス、およびガバナンスを提供し、構築および使用するAIアプリケーションを保護します。これらの機能は、DeepSeek R1モデルで構築されたAIアプリを確保および管理し、別々のDeepSeek Consumerアプリの使用を可視性と制御するのを支援するためにも使用できます。

Azure AI FoundryおよびGitHubのDeepSeek R1モデルで構築されたAIアプリを安全に保護および管理する

信頼できるAIで開発します

先週、私たちは発表しました Deepseek R1のAzure AI Foundry and Githubでの可用性、1,800を超えるモデルの多様なポートフォリオに参加します。

今日の顧客は、Azure AI Foundryを使用して生産対応のAIアプリケーションを構築し、さまざまなセキュリティ、安全性、プライバシー要件を占めています。 Azure AI Foundryで提供される他のモデルと同様に、Deepseek R1は、モデル行動の自動評価や潜在的なリスクを軽減するための広範なセキュリティレビューを含む、厳格な赤チームと安全評価を受けています。 AIモデルのMicrosoftのホスティングセーフガードは、Azureの安全な境界内で顧客データを維持するように設計されています。

Azure AIコンテンツの安全性により、組み込みのコンテンツフィルタリングは、デフォルトで使用でき、柔軟性のオプトアウトオプションを備えた、悪意のある、有害、または接地されていないコンテンツを検出およびブロックするのに役立ちます。さらに、安全評価システムにより、顧客は展開前にアプリケーションを効率的にテストできます。これらの保護手段は、Azure AI Foundryが、企業が自信を持ってAIソリューションを構築および展開するための安全で準拠した責任ある環境を提供するのに役立ちます。見る Azure Ai Foundry and Github 詳細については。

セキュリティ姿勢管理から始めます

AIワークロードは、特に開発者がオープンソースリソースを活用する場合、新しいサイバー攻撃の表面と脆弱性を導入します。したがって、セキュリティ姿勢管理から始めて、モデル、オーケストレーター、接地データソース、これらのコンポーネントの周りの直接的および間接的なリスクなど、すべてのAIインベントリを発見することが重要です。開発者がDeepSeek R1または他のAIモデルでAIワークロードを構築するとき、 CloudのMicrosoft DefenderAIセキュリティ姿勢管理機能 セキュリティチームがAIワークロードの可視性を獲得し、AIサイバー攻撃の表面と脆弱性を発見し、悪い俳優が悪用できるサイバー攻撃パスを検出し、サイバー脅威に対するセキュリティ姿勢を積極的に強化するための推奨事項を取得するのに役立ちます。

AIワークロードをマッピングし、アイデンティティリスク、機密データ、インターネット露出などのセキュリティ洞察を合成することにより、クラウドのディフェンダーはコンテキスト化されたセキュリティの問題を継続的に表面化し、AIワークロード全体の重要なギャップを優先するように調整されたリスクベースのセキュリティ推奨事項を提案します。関連するセキュリティの推奨事項は、Azure PortalのAzure AIリソース自体にも表示されます。これにより、開発者またはワークロードの所有者が推奨事項に直接アクセスできるようになり、サイバー脅威をより速く修正するのに役立ちます。

Deepseek R1 AIワークロードをサイバー脅威保護で保護します

強力なセキュリティ姿勢をとると、サイバー攻撃のリスクが低下しますが、AIの複雑で動的な性質には、ランタイムでも積極的な監視が必要です。 AIモデルは悪意のあるアクティビティを免除されておらず、サイバー攻撃やその他のサイバー脅威を迅速に注入することに脆弱である可能性があります。最新のモデルを監視することは、AIアプリケーションが保護されるようにするために重要です。

Azure AI Foundryと統合されているCloudのディフェンダーは、異常で有害な活動についてDeepSeek AIアプリケーションを継続的に監視し、調査結果を相関させ、セキュリティアラートをサポート証拠と強化します。これにより、セキュリティオペレーションセンター（SOC）アナリストは、脱獄サイバー攻撃、資格盗難、デリケートなデータリークなどのアクティブなサイバー脅威に関するアラートを提供します。たとえば、迅速な噴射サイバー攻撃が発生すると、Azure AIコンテンツの安全性プロンプトシールドはリアルタイムでブロックできます。その後、アラートはMicrosoft Defender for Cloudに送信されます。この場合、インシデントはMicrosoft Threat Intelligenceで強化され、SOCアナリストがIPアドレス、モデル展開の詳細、アラートをトリガーした疑わしいユーザープロンプトなどのサポートエビデンスに可視性を持つユーザーの行動を理解するのに役立ちます。 。

さらに、これらのアラートは統合されます Microsoft Defender XDR、セキュリティチームがAIワークロードアラートを相関インシデントに集中させて、生成AIアプリケーションに関連する悪意のあるアクティビティを含むサイバー攻撃の完全な範囲を理解できるようにします。

DeepSeekアプリの使用を確保し、管理します

DeepSeek R1モデルに加えて、DeepSeekはローカルサーバーでホストされているコンシューマアプリも提供します。消費者中心のアプリの場合と同様に、データ収集とサイバーセキュリティプラクティスが組織の要件に合わない場合があります。これは、従業員とパートナーが潜在的なデータリークとポリシー違反につながる認可されていないAIアプリを導入した場合、組織が直面するリスクを強調しています。 Microsoft Securityは、組織内のサードパーティAIアプリケーションの使用を発見する機能を提供し、使用を保護および管理するためのコントロールを提供します。

DeepSeekアプリの使用状況を確保し、可視性を獲得します

クラウドアプリ用のMicrosoft Defenderは、850を超える生成AIアプリに対してすぐに使用できるリスク評価を提供し、新しいアプリのリストが継続的に更新されます。これは、DeepSeekアプリなど、組織内のこれらの生成AIアプリの使用を発見し、セキュリティ、コンプライアンス、法的リスクを評価し、それに応じてコントロールをセットアップできることを意味します。たとえば、高リスクのAIアプリの場合、セキュリティチームはそれらを認可されていないアプリとしてタグ付けし、ユーザーがアプリへのアクセスを完全にブロックできます。

包括的なデータセキュリティ

加えて、 Microsoft Purviewデータセキュリティ姿勢管理（DSPM） AIの場合、ユーザープロンプトの機密データや非準拠の使用など、データセキュリティとコンプライアンスリスクの可視性を提供し、リスクを軽減するためのコントロールを推奨します。たとえば、AIのDSPMのレポートは、DeepSeek Consumerアプリを含む生成的なAIコンシューマーアプリに貼り付けられている機密データの種類に関する洞察を提供できるため、データセキュリティチームはデータセキュリティポリシーを作成および微調整してそのデータを保護できます。データリークを防ぎます。

機密データの漏れと剥離を防ぎます

組織データの漏えいは、AIの使用に関するセキュリティリーダーに対する最大の懸念の1つであり、ユーザーが外部のサードパーティAIアプリケーションと機密情報を共有できないようにするための組織がコントロールを実装することの重要性を強調しています。

Microsoft Purviewデータ損失防止（DLP） ユーザーが機密データを貼り付けたり、敏感なコンテンツを含むファイルをサポートされているブラウザから生成AIアプリにアップロードしたりするのを防ぐことができます。 DLPポリシーは、インサイダーリスクレベルにも適応し、「リスクの上昇」に分類されるユーザーに強い制限を適用し、「低リスク」に分類されているユーザーの厳しい制限を適用できます。たとえば、リスクの高いユーザーは、機密データをAIアプリケーションに貼り付けることが制限されていますが、低リスクユーザーは生産性を途切れることなく継続できます。これらの機能を活用することにより、外部のサードパーティAIアプリケーションを使用した潜在的なリスクから、機密データを保護できます。セキュリティ管理者は、これらのデータセキュリティリスクを調査し、範囲内でインサイダーリスク調査を実行できます。これらの同じデータセキュリティリスクは、総合的な調査のためにディフェンダーXDRで浮上しています。

これは、Azure AI Foundry and Githubに基づいて構築されたAIアプリを保護および管理するのに役立つ機能のいくつかの概要と、組織内のユーザーが使用するAIアプリです。これが便利であることを願っています！

詳細を学び、AIアプリの保護を開始するには、以下の追加リソースをご覧ください。

Microsoft Securityで詳細をご覧ください

Microsoft Security Solutionsの詳細については、ご覧くださいWebサイト。ブックマークセキュリティブログセキュリティの問題に関する専門家の報道に追いつくため。また、LinkedInでフォローしてください（Microsoftセキュリティ）およびx（@msftsecurity）サイバーセキュリティに関する最新のニュースと更新。