Snap では、悪意のある者によるプラットフォームの悪用を制限するために、安全メカニズムとプラットフォーム ポリシーを継続的に進化させています。私たちは高度なテクノロジーを活用してルールに違反する活動を検出してブロックし、設計原則を適用して友人関係のプロセスに摩擦を生み出し、法執行機関をサポートし、政府当局と協力し、人々に影響を与える最も深刻な危害に関する意識の向上と教育の提供に努めます。十代の若者たち、そして実際、私たちのコミュニティのメンバー全員。
私たちは青少年を保護する責任を非常に真剣に受け止めています。私たちの仕事は次のような充実したものです。
I. Snapchat を悪意のある者にとって敵対的な環境にする
今年の初めに、コミュニティ、特に 10 代のユーザーをさらに保護し、Snapchat をユニークなものにする現実世界の関係を強化するための新機能を発表しました。これらのアップデートには、不審な連絡先に対するアプリ内警告の拡張、十代の若者向けに特別に構築された友達保護の強化、不要な連絡先をブロックする機能の改善が含まれます。
これらの変更は、オンラインのセクストーションとの闘いに焦点を当てており、あらゆる形態の児童の性的搾取や虐待と闘うための継続的な投資を基盤としています。例えば：
当社はシグナルを使用してセクストーション行為を特定し、悪意のある行為者が他者を標的にして被害を与える機会を得る前に積極的に排除できるようにします。これは、Snapchat 上での既知の児童の性的搾取および虐待画像 (CSEAI) の拡散を防止するために設計されたテクノロジーの活用および展開に加えて、PhotoDNA (既知の違法画像の重複を検出する)、CSAI Match (既知の違法画像の重複を検出する) を含みます。ビデオ）、およびコンテンツ セーフティ API（新しい「ハッシュ化されたことのない」画像の検出を支援するため）。
私たちは改善と追加を続けます ファミリーセンター 2022 年にリリースされたこのツールスイートでは、保護者は自分の十代の子供が Snapchat で誰と友達になっているか、最近チャットした相手を確認でき、懸念がある可能性のあるアカウントを簡単に報告できます。ファミリー センターの目標は、オンラインでの安全性について、保護者や保護者と十代の若者の間でオープンで建設的な対話を促すことです。
当社は法執行機関と緊密に連携し、コミュニティの安全を守るために世界中で年中無休で活動する安全および法執行業務チームに多額の投資を行っています。たとえば、当社の信頼および安全チームの規模は 2020 年以降 2 倍以上に増加し、法執行業務チームはその間に 3 倍以上に増加しました。当社は、米国の法執行機関向けに年次サミットを主催し、当社のプラットフォーム上で行われている可能性のある違法行為に対して適切な措置を講じる方法を役員や機関が確実に把握できるようにしています。
また、私たちは、多くのセクストーション事件が発生しているナイジェリアの法執行機関と直接協力して、加害者を調査し訴追するための能力と知識を構築しており、この分野でさらに協力するためにナイジェリア政府との関与を継続する予定です。また、私たちは国際司法ミッション、NCMEC、他の業界メンバー、NGO と協力して、セクストーション活動が蔓延している米国以外の国でのサイバーヒントの調査に関するトレーニングを法執行機関に提供してきました。
II.業界の専門家や連合との連携
私たちは、独自の投資に加えて、世界中の専門家とも協力しています。これは、単一の組織や組織だけでは、これらの問題を有意義に前進させることはできないことを知っているからです。たとえば、Snap は WeProtect Global Alliance の国際政策委員会で業界を代表しています。私たちは INHOPE の諮問委員会のメンバーであり、英国インターネット ウォッチ財団 (IWF) の理事会のメンバーでもあります。これらの組織はすべて、オンライン CSEA の撲滅を使命の中心に据えています。
当社は、オンラインでの児童の性的搾取と虐待との闘いに焦点を当てた世界的な業界連合である Tech Coalition の積極的なメンバーであり、最近、取締役会執行委員会の 2 年間の任期を終了しました。私たちも設立メンバーでした Tech Coalition の Lantern イニシアチブは、企業が子供の安全ポリシーを強化するための初のクロスプラットフォーム信号共有プログラムです。このプログラムに積極的に参加することで、企業は、セクストーショニストなどの悪質な行為者を相互にチェックし合うことができます。
さらに、国立行方不明児童搾取センター (NCMEC) も活用しています。 テイク・イット・ダウン このデータベースを使用すると、未成年者は、選択した画像またはビデオのデジタル フィンガープリント (「ハッシュ」と呼ばれる) を自分のデバイス上で直接生成できます。 Snap などの参加企業は、これらのハッシュを使用して、コミュニティ ガイドラインに違反する重複画像を検索し、削除できます。私たちは英国で行われている Report Remove と呼ばれる同様のプログラムに参加しており、昨年は SWGfLの StopNCII コラボレーションは、そのグループのハッシュ データベースを活用することで、Snapchat 上での同意のない親密な画像 (NCII) の拡散を防ぐのに役立ちます。 StopNCII は、18 歳以上の親密な画像の拡散を阻止するのに役立ち、被害者に最もプライベートな写真やビデオのプライバシーを取り戻す機能を提供します。
今年、私たちはまた、学校やコミュニティでのより安全なオンラインの習慣と実践を擁護する1年間のパイロットプログラムに参加するために選ばれた全米から18人の十代の若者たちのグループである、デジタルウェルビーイングのための初のスナップ評議会も立ち上げました。 7月、このグループは少なくとも1人の保護者または付き添いとともにカリフォルニア州サンタモニカのスナップ本社に集まり、オンラインの落とし穴や社会力学、保護者向けツールなどのトピックについて興味深い洞察を得る議論を行った。これは、16 人の専門家と 3 人の青少年擁護者で構成されるスナップの安全諮問委員会に追加されるもので、安全問題に関してスナップに直接指導と指示を提供します。私たちは 2025 年を楽しみにしています。そこでは、両グループのメンバーが集まり、さらなる洞察を発掘する機会をもっと作りたいと考えています。
Ⅲ．意識を高める
オンラインの性的虐待やセクストーション計画と闘うための重要な要素は、社内への投資や専門家や業界を越えた協力のほかに、一般の人々と Snapchatter の意識を高めることです。
2022 年に、当社はデジタル ウェルビーイング インデックスを開始しました。これは、10 代の若者と若者がすべてのプラットフォームでオンラインでどのように生活しているかについての洞察を提供する業界をリードする調査です。この研究の一環として、過去 2 年間、私たちは次のことを行ってきました。 セクストーションを深く掘り下げる。この調査は、Snapchat だけでなくオンラインでの体験全般を対象としているため、私たちの仕事に情報を提供するだけでなく、テクノロジー エコシステム全体の他の人々にも洞察を提供できることを願っています。今月下旬、未成年者への金銭的セクストーションに関する Technology Coalition の今後の仮想マルチステークホルダー フォーラムと併せて、2 年目のセクストーションの詳細調査の結果を共有する予定です。
今年初めに、私たちは最初のサポート団体になれることを光栄に思いました。 知って守るは、米国土安全保障省（DHS）が今年初めに開始した、この種では初の国民啓発キャンペーンです。このキャンペーンは、若者、親、信頼できる大人、政策立案者に教育と権限を与え、金融セクストーションなどの犯罪の防止と闘いに貢献します。 K2P 教育リソースのために Snapchat 上の広告スペースを寄付することに加えて、キャンペーンについてさらに情報を提供するために、米国の 10 代および若者を対象とした追加調査を実施しています。私たちも 共同発売 インタラクティブな Know2Protect クイズを通じて Snapchat の教育に役立つ拡張現実 Snapchat Lens。そして英国では、今日までこれらの問題に関するIWFの広範な国民意識向上キャンペーンを支援してきました。 ガールズ・アウト・ラウド、11歳から13歳の少女に、オンラインでの性的身だしなみ、セクスティング、ヌードの送信について知らせることを目的としています。さらに、最近、 教育者向け Snapchat ガイド、 安全で健全な学校と提携して、包括的な教育を開発する ツールキット 教育者向け。セクストーションと闘う方法に関する情報とガイダンスが含まれています。
長年の研究に基づいて、私たちは意識向上とコミュニティ教育がオンラインでの危害を防ぐ強力なツールであることを認識しており、Snapchat 上で 10 代の若者や若者に直接リーチできるアプリ内リソースの開発と推進を続けています。 2023 年 9 月に、4 つの新しいアプリ内をリリースしました 「安全スナップショット」エピソード 金融セクストーションを含む性的リスクと被害に焦点を当てています。また、セクスティングやヌード写真の作成と共有の影響、オンラインでの性的目的での子供のグルーミング、児童の性的人身売買に関するエピソードも提供します。これらのリソースはすべて、国立行方不明児童搾取センター (NCMEC) の専門家によって検討され、主要地域の関連ホットラインやヘルプラインと協力して作成されました。
私たちはオンラインでの児童の性的搾取や虐待と闘い続けていますが、やるべきことはまだたくさんあります。 2025 年も、私たちはオンライン上の潜在的な危害についての意識を高め、誰もが潜在的なターゲットになる可能性があることを繰り返し述べていきます。私たちは、犯罪者を早期かつ頻繁に妨害して阻止したいと考えており、法執行機関向けにさらに実用的なサイバーヒントを作成したいと考えています。
偽造薬の販売を含む違法薬物行為、暴力の脅迫、自殺や自傷行為のコンテンツなど、他のひどい危害に対抗する際にも、私たちはこれらと同じ戦略の多くを採用していることに注意することが重要です。私たちは、この分野での私たちの仕事が決して終わることはないかもしれないことを認識していますが、Snapchatユーザーの安全を深く気にかけており、業界、政府、法執行機関全体で協力して情報を交換し、防御を強化し続けます。
#Snapchatユーザーの安全を守るための私たちの取り組み