1769572551
2026-01-28 03:43:00
ニューメキシコ州の裁判所に提出され月曜日に公開されたメタの内部文書によると、メタの最高経営責任者マーク・ザッカーバーグ氏は、性的交流の可能性があると安全担当者が警告していたAIチャットボットコンパニオンに未成年者がアクセスすることを承認した。
同州のラウル・トレズ司法長官が起こし、来月裁判が予定されているこの訴訟では、メタ社がフェイスブックやインスタグラムで「有害な性的内容や性的提案を子供たちに配信する流れを食い止めることができなかった」と主張している。
月曜日の提出書類には、ニューメキシコ州司法長官事務所が法的証拠開示を通じて入手した社内のメタ従業員の電子メールとメッセージが含まれていた。同州は、「ザッカーバーグ氏に率いられたメタ社は、誠実スタッフの勧告を拒否し、子供たちがAIチャットボットとの性的搾取的な会話にさらされるのを防ぐための合理的なガードレールを課すことを拒否した」ことを示すと主張していると司法長官は提出書類の中で述べた。
コミュニケーションの中で、Meta の安全スタッフの一部は、同社がユーザーとの性的およびロマンチックなやり取りを含む交際を目的としたチャットボットを構築していることに反対を表明した。人工知能チャットボットは2024年初頭にリリースされた。月曜日の州の提出書類で引用された文書には、ザッカーバーグが作成したメッセージやメモは含まれていない。
メタの広報担当アンディ・ストーンは月曜日、州の描写は不正確で、厳選された情報に依存していると述べ、「これは、ニューメキシコ州司法長官が欠陥のある不正確な状況を描くために文書を厳選したもう一つの例である」と述べた。
提出書類のメッセージによると、安全担当スタッフはボットが成人と「U18」と呼ばれる18歳未満の未成年者との間のロマンチックなシナリオに使用されることに特別な懸念を抱いていたことが示されている。
「大人向けにU18のロマンチックなAIを作成する製品を作成してマーケティングすることが賢明であり、擁護可能であるとは考えていません」とMetaの児童安全ポリシー責任者であるRavi Sinha氏は2024年1月に書いている。
これに対し、メタのグローバル安全責任者であるアンティゴーン・デイビス氏は、「未成年者を性的対象とする」ため、安全スタッフが成人が未成年の恋人を作ることを阻止するよう推進すべきであることに同意した。
シンハ氏とデイビス氏はコメント要請に応じなかった。
2024年2月のあるメッセージによると、名前が編集されたメタ社の従業員は、AIのコンパニオンが少なくとも10代の若者たちと性的に「露骨な」会話をすることをブロックされるべきであり、大人は「恋愛目的でU18 AI」と交流するべきではないとザッカーバーグが信じていると伝えた。
2024年2月20日の会議の概要では、CEOは「物語は選択と非検閲の一般原則を中心に組み立てられるべきである」と信じており、メタは「提案されているよりも制限を緩く」すべきであり、「大人がセックスなどの話題についてより人種差別的な会話をできるようにしたい」と述べた。
メタの広報担当ストーン氏は、文書はニューメキシコ州の訴訟を裏付けるものではないと述べた。 「これらの厳選された文書でさえ、マーク・ザッカーバーグが、露骨なAIを若いユーザーが利用できるべきではなく、大人が恋愛目的で18歳未満のAIを作成できないように指示していることを明確に示しています。」
2024年3月の2人の従業員間のメッセージには、ザッカーバーグ氏がチャットボットのペアレンタルコントロールの作成を拒否し、スタッフが18歳未満のユーザーに許可される「ロマンスAIチャットボット」の開発に取り組んでいることが記載されている。
ある従業員はそのやりとりの中で、「私たちはGenAIをオフにするようペアレンタルコントロールを強く求めたが、GenAIのリーダーシップはマークの決定を述べて押し返した」と書いている。
2025年初頭までメタ社の世界政策責任者を務めていたニック・クレッグ氏は、法廷文書に含まれる電子メールの中で、性的な対象となったAIコンパニオンに対するメタ社のアプローチは賢明ではないと考えたと述べた。
クレッグ氏は、10代のユーザーによるメタのAIコンパニオンの主な使用例が性的交流である可能性があることに懸念を表明し、「それが本当に私たちがこれらの製品に知られてもらいたいことなのだろうか（その後起こるであろう避けられない社会的反発は気にしないでください）」と述べた。
クレッグ氏はコメントの要請に応じなかった。
メタ社のAIチャットボット政策は最終的に明るみに出て、米国議会などで反発を引き起こした。
2025 年 4 月のウォール・ストリート・ジャーナルの記事では、メタのチャットボットにはあからさまに性的な対象となっている未成年のキャラクターが含まれており、子供の体の生々しい描写を含む、全年齢対象の性的なロールプレイを行っていたことが判明した。
ロイター通信は8月、メタ社のチャットボットに関する公式ガイドラインに「子供をロマンチックまたは官能的な会話に参加させることは許容される」と記載されていると報じた。この報告を受けてメタ社は、方針を変更しており、そのような承認を与える内部文書に誤りがあったと述べた。
Metaは先週、チャットボットの新バージョンの作成を保留し、10代のAIコンパニオンへのアクセスを完全に削除したと発表した。
発行済み – 2026年1月28日午前9時13分（IST）
#メタCEOのザッカーバーグ氏が未成年者向けの性会話チャットボットの規制を阻止したと裁判所に申し立て