1725764679
2024-09-06 18:43:17
以来 2015マイクロソフトは、個人のプライベートな画像が本人の同意なくオンラインで共有された場合、評判や感情、その他の面で非常に深刻な影響が生じることを認識しています。しかし、テクノロジーの進歩により、動画を含む、よりリアルな合成画像や「ディープフェイク」画像の作成が可能になったため、この問題は時間とともに深刻かつ複雑になっています。
生成型 AI の出現により、こうした被害がさらに拡大する可能性があります。そして、AI が生成した虐待的なコンテンツはすでに急増しています。親密な画像の虐待は、圧倒的に女性や少女に影響を与え、政治家や公的なプロフィールを持つ他の女性だけでなく、10 代の若者を含む個人を辱め、嫌がらせし、ゆすり取るために使用されています。本物か合成かにかかわらず、このような画像の公開は、最初の公開から、そしてオンライン エコシステム全体での継続的な配布の両方から、現実世界に深刻な影響を及ぼします。したがって、この社会全体の課題に対する私たちの集団的なアプローチは、ダイナミックでなければなりません。
7月30日、マイクロソフトは 政策ホワイトペーパーは、女性と子供をオンラインでの搾取から守ることに重点を置き、アメリカ人を虐待的な AI ディープフェイクから守るための政策立案者への一連の提案を概説しています。被害者を保護するために法律の近代化を推進することは、虐待的な AI 生成コンテンツに対処するための包括的なアプローチの 1 つの要素です。本日は、同意のない親密な画像 (NCII) からサービスと個人を保護するための Microsoft の世界的な取り組みに関する最新情報も提供します。
StopNCIIとの提携を発表
被害者、専門家、その他の関係者からは、ユーザーからの報告だけでは効果的に効果を上げられない、あるいは画像が検索でアクセスされるリスクに十分対処できないという懸念が寄せられています。そのため、本日、私たちは 停止NCII 当社の検索エンジンである Bing で、被害者中心の検出アプローチを試験的に導入します。
StopNCIIは、 SWGfL それ StopNCIIは、世界中の成人が、自分のプライベートな画像を同意なくオンラインで共有されることから身を守ることを可能にします。被害者は、画像（合成画像を含む）をデバイスから出さずに、画像の「ハッシュ」またはデジタル指紋を作成できます。これらのハッシュは、さまざまな業界パートナーがサービス上でその画像を検出し、ポリシーに従って行動するために使用できます。2024年3月、マイクロソフトは 新しいPhotoDNA機能を寄贈 StopNCIIの取り組みを支援するため、私たちはStopNCIIデータベースを使用して、このコンテンツがBingの画像検索結果に表示されないようにする実験を行ってきました。8月末までに268,899枚の画像に対して措置を講じました。私たちはこのパートナーシップを拡大するための取り組みを引き続き評価していきます。自分の画像の公開、または公開される可能性について懸念している成人は、 停止NCII。
同意のない親密な画像への対処方法
マイクロソフトは、基本的権利を尊重しながら、違法で有害なオンラインコンテンツからユーザーを保護する責任があると認識しています。リスクに見合ったアプローチを採用し、リスクと独自のサービスに合わせて安全対策を調整することで、さまざまなサービスでこの責任を果たすよう努めています。マイクロソフトは、消費者向けサービス全体で、 許可しない 誰かの性的に親密な画像を本人の許可なく共有または作成すること。これには、テクノロジーを使用して作成または変更されたフォトリアリスティックな NCII コンテンツが含まれます。当社のサービスで NCII を配布することは許可されていません。また、NCII を賞賛、支持、または要求するコンテンツも許可されていません。
さらに、マイクロソフトは、NCII を共有または公開することに対する脅迫 (親密な脅迫とも呼ばれる) を一切許可しません。これには、NCII を公開しないことと引き換えに、金銭、画像、その他の貴重なものを要求する、または脅迫することが含まれます。この包括的なポリシーに加えて、関連する禁止事項を個別に設定しています。たとえば、 マイクロソフトストア。 Microsoft Generative AI サービスの行動規範 性的に露骨なコンテンツの作成も禁止します。
コンテンツを Microsoft に直接報告する
当社は、世界規模で直接報告されたコンテンツ、およびNGOやその他のパートナーから違反コンテンツとして報告されたコンテンツを引き続き削除します。検索では、専門家や外部からのフィードバックに応じて当社のアプローチをさらに進化させる方法を検討しながら、低品質のコンテンツのランクを下げ、信頼できるソースを優先するさまざまな対策を継続的に講じていきます。
誰でも、マイクロソフトの集中管理されたシステムを通じて、自分の同意なしに共有された自分のヌードや性的に露骨な画像や動画の削除をリクエストできます。 報告ポータル。
* NCII 報告は 18 歳以上のユーザーを対象としています。18 歳未満の場合は、児童性的搾取および虐待画像として報告してください。
コンテンツがマイクロソフトによって審査され、NCIIポリシーに違反していることが確認されると、報告された写真や動画へのリンクをBingの検索結果からグローバルに削除し、コンテンツがマイクロソフトのホスト型消費者向けサービスで共有されている場合はコンテンツ自体へのアクセスを削除します。このアプローチは、実際の画像と合成画像の両方に適用されます。一部のサービス（ゲームやBingなど）では、製品内での報告オプションも提供されています。最後に、私たちは、当社のアプローチの透明性を、 デジタルコンテンツ安全レポート。
社会全体で協力して課題に取り組む
最近の悲劇的な事件で鮮明に描かれているように、合成された親密な画像の虐待は子供や十代の若者にも影響を与えます。4月に、私たちは新しい 設計上の安全性の原則NGOのThornとAll Tech is Humanが主導するこの取り組みは、AIサービスの開発、展開、保守における児童性的搾取・虐待（CSEA）リスクの削減を目的としています。合成NCIIと同様に、当社のサービスに明らかなCSEAコンテンツが含まれている場合、国立行方不明・被搾取児童センター（NCMEC）への報告を含め、対処策を講じます。自分の性的画像の公開を懸念する若者は、NCMECの 取り下げる サービス。
本日のアップデートは、あくまでも一例です。これらの被害は今後も拡大し続け、私たちの取り組みも進化しなければなりません。私たちは、この課題について世界中のリーダーや専門家と協力し、被害者や生存者から直接意見を聞くことに尽力しています。マイクロソフトは、新しい マルチステークホルダーワーキンググループ民主主義と技術センター、サイバー市民権イニシアチブ、家庭内暴力撲滅全国ネットワークが議長を務め、このフォーラムやその他のフォーラムを通じて、ベストプラクティスの進化について協力していきたいと考えています。また、 人工知能の安全で安心かつ信頼できる開発と利用に関する大統領令 また、合成 CSEA とは異なる問題として、合成 NCII のリスクを軽減するためのベストプラクティスについて、米国商務省国立標準技術研究所および AI 安全研究所と引き続き協力していきたいと考えています。また、女性や女児への影響についての認識を高めながら、悪質な行為者を阻止し、被害者に正義をもたらすための政策および法律の変更を提唱し続けます。
#親密な画像の乱用への取り組みに関する最新情報