メタは、コンテンツ管理ルールに違反するポルノ広告を許可しました

2024 年、メタは Facebook や Instagram などのソーシャル メディア プラットフォーム上で、3,300 件を超えるポルノ広告 (その多くは AI 生成コンテンツをフィーチャーしたもの) の掲載を許可しました。

この調査結果は、テクノロジー プラットフォーム アルゴリズムの調査に重点を置いているヨーロッパの非営利組織、AI Forensics のレポートから得られたものです。研究者らはまた、インスタグラムやフェイスブックの標準投稿と同じ露骨な画像の多くを再アップロードすることで、メタのコンテンツモデレーションポリシーに矛盾があることも発見した。広告とは異なり、これらの投稿はメタのコミュニティ基準に違反したためすぐに削除されました。

英国のノーサンブリア大学デジタル市民センターのキャロライナ・アー氏は、「私の研究ではコンテンツモデレーション、特に性的コンテンツの分野での二重基準がすでに明らかになっているため、この報告書には失望しているが、驚きはしていない」と語る。

AI フォレンジックのレポートは、欧州連合を対象とした広告の少数のサンプルに焦点を当てています。その結果、メタが許可した露骨な広告は主に中年以上の男性をターゲットに「怪しげな性的増強製品」や「出会い系サイト」の宣伝を行っており、総リーチ数は820万インプレッションを超えていたことが判明した。

このような寛容さは、コンテンツのモデレーションにおける広範な二重基準を反映している、とアレ氏は言う。テクノロジープラットフォームは、「女性、ファムプレゼンテーション、LGBTQIA+ユーザー」によるコンテンツをブロックすることが多いと彼女は言う。その二重基準は男性と女性の性的健康にも及びます。 「例としては、ランジェリーや生理関連の広告が挙げられます。 [removed] メタからの広告は承認されていますが、バイアグラの広告は承認されています」と彼女は言います。

AI フォレンジック チームは、広告内で AI が生成した画像を発見したことに加えて、音声のディープフェイクも発見しました。たとえば、性的増強薬の一部の広告では、ポルノのビジュアルに、デジタルで操作された俳優ヴァンサン カッセルの声が重ねられていました。

「メタは、当社プラットフォーム上の広告やオーガニック投稿におけるヌードや性的行為の表示を禁止しており、当社と共有された違反コンテンツを削除しています」とメタの広報担当者は述べた。 「悪意のある者は法執行を回避するために常に戦術を進化させています。そのため、当社は違反コンテンツを特定して削除するための最良のツールとテクノロジーに投資し続けています。」

この報告書は、Meta CEOのマーク・ザッカーバーグ氏がクラウドソーシングのコミュニティノートを支持してファクトチェックチームを廃止すると発表したのと同時期に行われた。

「本当にディストピア的に聞こえたいのであれば、ファクトチェッカーを排除するというザッカーバーグの最新の決定を踏まえると、現段階ではそうする理由があると思うが、メタ社は、社会から取り残された個々のユーザーをエージェンシーから迅速に剥奪しているとさえ言えるだろう」疑わしい広告から金を取ることだ」とアレ氏は言う。