1736702014
2025-01-10 22:23:00
Microsoft のデジタル犯罪対策部門 (DCU) は、AI サービスの安全性と完全性を確保するために法的措置を講じています。バージニア州東部地区で公開された訴状の中で、私たちは、Microsoft を含む生成 AI サービスの安全ガードレールを回避して攻撃的で有害なコンテンツを作成するように特別に設計されたツールを意図的に開発するサイバー犯罪者を妨害するための行動を追求しています。 Microsoft は、製品とサービスの耐障害性を強化するために多大な努力を続けています。 乱用;しかし、サイバー犯罪者は依然として執拗にツールや技術を革新し、最も堅牢なセキュリティ対策を回避します。この行動により、私たちはオンライン行為者による AI テクノロジーの武器化は容認されないという明確なメッセージを送っています。
Microsoft の AI サービスは、AI モデル、プラットフォーム、アプリケーション レベルでの組み込みの安全性緩和策など、強力な安全対策を導入しています。本日公開された裁判所への提出書類で主張されているように、Microsoft は外国を拠点とする脅威を観察しました。–攻撃者グループは、公開 Web サイトから収集した公開された顧客認証情報を悪用する高度なソフトウェアを開発しました。その際、彼らは特定の生成 AI サービスを使用するアカウントを特定して不正にアクセスし、それらのサービスの機能を意図的に変更しようとしました。その後、サイバー犯罪者はこれらのサービスを使用し、これらのカスタム ツールを使用して有害で違法なコンテンツを生成する方法に関する詳細な指示とともに、他の悪意のある攻撃者にアクセスを転売しました。発見後、Microsoft はサイバー犯罪者によるアクセスを取り消し、対策を講じ、将来このような悪意のある活動をさらにブロックするための安全措置を強化しました。
この活動は米国の法律に直接違反します。 利用規約 そして 行動規範 私たちのサービスのためにs。今日の開封された裁判所への提出書類の一部です これらの違法なツールやサービスの作成者に対する進行中の調査について。具体的には、裁判所命令により、犯罪活動に役立つウェブサイトを押収することが可能になり、これにより、これらの活動の背後にある個人に関する重要な証拠を収集し、これらのサービスがどのように収益化されているかを解読できるようになりました。、 そして、私たちが見つけた追加の技術インフラストラクチャを破壊することも目的です。同時に、私たちは観察された活動を対象とした追加の安全緩和策を追加し、調査結果に基づいてガードレールを引き続き強化していきます。
毎日、個人は生成 AI ツールを活用して、創造的な表現と生産性を向上させています。残念なことに、他のテクノロジーの出現で見てきたように、これらのツールの利点は、悪意のある目的でテクノロジーやイノベーションを悪用し悪用しようとする悪意のある者を引き寄せます。 Microsoft は、当社や他の業界全体が新しい機能を導入する際に、ツールの悪用や悪用を防ぐために当社が果たす役割を認識しています。昨年、私たちは コミットした ユーザーの安全を保つための新しい方法の革新を継続すること、そしてAIによって生成された虐待的なコンテンツと闘い、人々とコミュニティを保護するための包括的なアプローチの概要を説明しました。今回の最近の訴訟はその約束に基づいたものである。
法的措置や安全ガードレールの永続的な強化を超えて、Microsoft はオンライン上の危害に対処するための追加の積極的な対策と他者とのパートナーシップを追求し続けると同時に、政府当局に規制を提供する新しい法律の制定を提唱しています。 と 効果的に戦うために必要なツール AIの悪用、 特に 他人に危害を加える。 Microsoft は最近、広範なレポートをリリースしました、 「AI によって生成された虐待的なコンテンツから公衆を守る」を設定したs 悪意のある動機を持つ行為者から公衆、特に女性と子供をより良く保護するための、産業界と政府に対する第 4 回勧告。
Microsoft の DCU は、20 年近くにわたり、消費者や企業が依存している日常ツールを武器化しようとするサイバー犯罪者を妨害し、阻止することに取り組んできました。現在、DCU はこのアプローチに基づいて構築されており、過去のサイバーセキュリティ活動から得た重要な教訓を適用して、生成型 AI の悪用を防止しています。マイクロソフト は、オンラインで人々を保護するための創造的な方法を模索し、調査結果を透明性をもって報告し、AI テクノロジーを兵器化しようとする者に対して法的措置を講じ、すべての AI プラットフォームが存続できるよう世界中の官民セクターの関係者と協力して、その役割を果たし続けます。有害な虐待から守ります。
#が生成した虐待的なコンテンツから公衆を守るために法的措置を講じる