世界

メタ監督委員会、AI生成ポルノに関する規則を整理するよう同社に指示

メタの監視委員会は木曜日、AIが生成した実在の人物の性的に露骨な描写を禁じる同社の規則は「十分に明確ではない」と述べ、そのような画像が同社のプラットフォーム上で流通するのを止めるための変更を求めた。この委員会はソーシャルメディア大手から資金提供を受けているものの、独立して運営されており、人工知能を使って作成され、Metaのフェイスブックとインスタグラムに投稿された有名女性の偽ポルノ画像２枚を審査した後、判決を下した。メタは、委員会の勧告を検討し、採用された変更について最新情報を提供すると述べた。同委員会は報告書の中で、プライバシー上の懸念を理由に、この2人をインドと米国の女性公人としてのみ特定した。(その日のトップテクノロジーニュースについては、当社のテクノロジーニュースレター「Today's Cache」を購読してください)同委員会は、両画像がメタの「侮辱的で性的なフォトショップ加工」を禁止する規則に違反していると判断した。メタはこれをいじめや嫌がらせの一種と分類しており、メタは直ちに画像を削除すべきだったと述べた。インド人女性の件では、Meta 社は画像に関するユーザーからの報告を 48 時間以内に確認しなかったため、チケットは自動的に閉じられ、何の措置も取られなかった。ユーザーは控訴したが、同社は再び対応を拒否し、委員会がこの件を取り上げた後にようやく方針を転換したと同社は述べた。アメリカの有名人の場合、Meta のシステムは自動的に画像を削除しました。同委員会は「このコンテンツに対する制限は正当だ」と述べ、「被害の深刻さを考えると、コンテンツを削除することが、被害を受けた人々を守る唯一の効果的な方法だ」と語った。同委員会は、例えば「フォトショップ」という言葉の使用は「範囲が狭すぎる」ため、禁止事項は生成AIを含む幅広い編集技術を対象とすべきだとして、Metaに規則を更新して範囲を明確にするよう勧告した。同委員会はまた、メタが、アメリカ人女性のケースで起きたような自動削除を可能にするデータベースにインド人女性の画像を追加することを拒否したことを非難した。報道によると、メタは委員会に対し、データベースに画像を追加する時期を決定する際にメディアの報道に頼っていると伝えており、委員会はこれを「懸念すべき」行為と呼んでいる。同委員会は「ディープフェイクの親密な画像の被害者の多くは世間の注目を浴びておらず、同意のない描写の拡散を受け入れるか、あらゆる事例を検索して報告するかのいずれかを強いられている」と述べた。 #メタ監督委員会AI生成ポルノに関する規則を整理するよう同社に指示