Xbox は、安全性への多面的なアプローチでプレイヤーを不要なメッセージから保護する新しい AI ソリューションを導入

Xbox では、ゲームの楽しさとコミュニティをさらに多くの人々に提供するという使命を継続しながら、プレイヤーを破壊的なオンライン行為から保護し、より安全でより包括的なエクスペリエンスを作成し、 Xbox コミュニティ セーフ。

私たちの 第5回透明性レポート これは、プレイヤー中心のソリューションと AI の責任あるアプリケーションを組み合わせて、プラットフォーム上での望ましくない動作の検出と防止における人間の専門知識を継続的に強化し、最終的にはバランスを保ち、ユーザーのニーズを確実に満たし続ける方法のいくつかを強調しています。私たちの成長するゲームコミュニティ。

2024 年 1 月から 2024 年 6 月までの期間、私たちはプレイヤーを保護するための多面的なアプローチを反映した 2 つの AI 対応ツールをリリースすることで、友達以外からの破壊的なメッセージング コンテンツのブロックとスパムと広告の検出に注力してきました。

レポートから得られる重要なポイントは次のとおりです。

• メッセージングにおける安全性と信頼性のバランス: 友人以外の間の有害なメッセージを検出して傍受するための新しいアプローチを導入し、防止される破壊的なコンテンツの大幅な増加に貢献しました。 1月から6月までの合計では、 1900万個 Xbox コミュニティ標準– 違反コンテンツが防止されました テキスト、画像、ビデオを介してプレーヤーにリーチすることはできません。この新しいアプローチは、コミュニティが楽しんでいる本物のオンライン ゲーム体験を維持しながら、友人以外から送信された有害なコンテンツからプレイヤーを保護するという 2 つの目標のバランスをとります。プレイヤーには次の機能を使用することをお勧めします。 新しい Xbox フレンドとフォロワーのエクスペリエンスこれにより、他のユーザーと接続する際の制御性と柔軟性が向上します。
• プレイヤーのレポートによって安全性が向上: プレーヤーの報告は、引き続き安全対策の重要な要素です。この期間中、プレイヤーはプラットフォーム上のスパムと広告の増加を特定するのに協力してくれました。私たちはソースでの不正なアカウントの作成を防ぎ、プレイヤーとモデレーションチームの両方への影響を制限する戦略を常に進化させています。 4 月には、スパムや広告の形でプレイヤーに影響を与えていた不正アカウントの急増 (1 月の 32 万件から 170 万件) に対して措置を講じました。。プレイヤーは、Looking for Group (LFG) メッセージでレポートを提供することで、この急増とパターンの特定に協力してくれました。 プレーヤーのレポートは LFG メッセージで 2 倍の 200 万件に増加し、8% 増加して 3,000 万件になりました 前回の透明性レポート期間と比較した、コンテンツ タイプ全体のデータ。
• 当社のデュアル AI アプローチ: モデレーション チームをサポートするために構築された 2 つの新しい AI ツールをリリースしました。これらの革新により、破壊的な素材がプレイヤーにさらされるのを防ぐだけでなく、人間のモデレーターがより複雑で微妙な問題に対する取り組みを優先できるようになります。これらの新しいソリューションの最初のものは、2 月にリリースされた、報告されたコンテンツのモデレーションを支援するシステムである Xbox AutoMod です。 これまでに 120 万件のケースを処理し、チームはプレイヤーに影響を与えるコンテンツを 88% 早く削除できるようになりました。 当社が導入した 2 つ目の AI ソリューションは 7 月にリリースされ、望ましくない通信を防ぐために積極的に機能します。これらのソリューションはスパムと広告を検出するように設計されており、将来的にはさらに多くの種類の危害を防止するために拡張される予定です。

これらすべての新しい進歩を支えるのは、プレーヤーと人間のモデレータの専門知識の両方に依存して、私たちのゲームの一貫性と公正な適用を保証する安全システムです。 コミュニティ基準継続的なフィードバック ループを通じて全体的なアプローチを改善しながら。

Microsoft Gaming では、安全性の革新を推進し、プレーヤーのエクスペリエンスを向上させるための取り組みは、透明性レポートの枠を超えています。

Minecraft でプレイヤーの安全を優先する: Mojang Studios は、Minecraft を誰にとっても安全で居心地の良い場所に保つために、すべてのプレイヤーが自分の役割を果たすことができると信じています。それを助けるために、Mojang は 新機能をリリースしました Minecraft: Bedrock Edition では、テキスト チャットで潜在的に不適切または有害な行為が検出された場合に、ゲームのコミュニティ標準に関するリマインダーをプレイヤーに送信します。この機能は、サーバー上のプレイヤーに予想される行為を思い出させ、アカウントの一時停止や禁止が必要になる前に、他のプレイヤーとのコミュニケーション方法を振り返り、変更する機会を作り出すことを目的としています。他の場所では、以来、 Minecraft の公式サーバー リスト 1 年前にサービスを開始した Mojang は、GamerSafer と提携して、何百ものサーバー所有者がコミュニティ管理と安全対策の改善を支援してきました。これにより、プレイヤー、保護者、信頼できる大人が、関心のある安全性とセキュリティの実践に取り組んでいる Minecraft サーバーを見つけることができました。

Call of Duty の毒性対策ツールへのアップグレード: Call of Duty は有害性や不公平なプレイと戦うことに取り組んでいます。規約に違反する迷惑行為を抑制するため、 フランチャイズの行動規範、チームは AI を含む高度なテクノロジーを導入して、モデレーション チームに権限を与え、有害な行為と闘っています。これらのツールは、プレイヤーが敬意を持って扱われ、誠実に競争できる、より包括的なコミュニティを育成することを目的として構築されています。 2023年11月以降、20 言語にわたって 4,500 万件を超えるテキストベースのメッセージがブロックされ、音声毒性への曝露が 43% 減少しました。の発売に伴い、 コール オブ デューティ: ブラックオプス 6、 チームは、英語、スペイン語、ポルトガル語の既存のサポートに加えて、フランス語とドイツ語での音声モデレーションのサポートを展開しました。この進行中の作業の一環として、チームはゲームにおける向社会的行動に関する研究も行っています。

業界が進化するにつれて、私たちは没入型の体験を楽しみ、楽しんで、他の人とつながるために私たちのプラットフォームにやってくる、情熱的で志を同じくする思慮深いプレーヤーで構成されるゲーム コミュニティを構築し続けています。私たちは、Microsoft の方針に従って、プラットフォームの安全性と設計による責任ある AI の作成に引き続き取り組んでいきます。 責任あるAI標準 Tech Coalition などの組織とのコラボレーションやパートナーシップを通じて。いつものように、私たちの活気に満ちたコミュニティに貢献し、私たちの旅に参加していただきありがとうございます。

いくつかの追加リソース: