企業

イーロン・マスクのX、Grokが実在の人物の脱衣画像をブロックする

性的なAIディープフェイクに対する懸念が広まったことを受け、イーロン・マスク氏のAIモデルGrokは、違法とされている管轄区域において、露出度の高い服装で写っている本物の人物の写真を編集することができなくなる。「私たちは、Grok アカウントが露出の高い服装をした現実の人物の画像の編集を許可しないように技術的措置を講じました」と X の発表には書かれています。この禁止に反応して、キア・スターマー首相がX社に自社のAIツールを制御するよう求めたことを受け、英国政府は「正当性」を主張した。この変更は、カリフォルニア州のトップ検察官が、同州がAIモデルによって生成された子供を含む性的なAIディープフェイクの拡散を捜査していると発表した数時間後に発表された。「我々は現在、違法とされている管轄区域において、すべてのユーザーがGrokアカウントやGrok in Xを介してビキニ、下着、その他類似の服装をした実在の人物の画像を生成する機能を地理的にブロックしている。」 X氏は水曜日の声明で次のように述べた。。また、プラットフォーム上でGrokを使用して画像を編集できるのは有料ユーザーのみであることも繰り返し述べた。声明によると、これにより、Grokを悪用して法律やXのポリシーに違反しようとする者が確実に責任を問われるようになるため、保護層がさらに強化されるという。NSFW（職場では安全ではありません）設定を有効にすると、GrokはR指定映画で見られるものと一致する「架空の成人（現実の人間ではない）の上半身裸」を許可することになるとマスク氏は水曜日にオンラインで書いた。「これが米国の事実上の標準だ。他の地域では国ごとの法律に応じて異なるだろう」とテクノロジー業界の億万長者は語った。マスク氏は以前、AIが生成したビキニ姿の英国首相サー・スターマー卿の画像2枚とともに、批評家たちは「言論の自由を抑圧したいだけだ」と投稿し、Xを擁護していた。ここ数日、世界中の指導者がGrokの画像編集機能を批判している。先週末、マレーシアとインドネシアは、同意なしに写真が改変されて露骨な画像が作成されたとユーザーが主張したことを受け、Grok AI ツールを禁止した最初の国となった。英国のメディア規制当局オフコムは月曜日、Xが性的画像に関して英国の法律を遵守していないかどうか調査すると発表した。法律に違反したことが判明した場合、Ofcom は X に対し、全世界収益の 10% または 1,800 万ポンドのいずれか大きい方の罰金を課す可能性があります。また、Xが従わない場合、Ofcomはインターネットサービスプロバイダーに対し、英国内のサイトへのアクセスを完全にブロックするよう裁判所命令を求める可能性がある。キア卿は、AI画像に対する反発の中でXが「自主規制する権利」を失う可能性があると警告したが、その週の後半にはXがこの問題に対処するために行動を起こしているとの報道を歓迎すると述べた。首相は、Xが行動を起こさなかった場合には「必要な措置を講じ」、法規制を強化すると述べた。Xは後に、Grokへの変更は「有料購読者を含むすべてのユーザー」に適用されると述べた。カリフォルニア州司法長官ロブ・ボンタは水曜日、「女性と子供を裸で性的に露骨な状況で描いたこの素材は、インターネット上で人々に嫌がらせをするために使用されている」と述べた。政策研究者のリアナ・フェッファーコーン氏は、X社が新しいGrok保護策を導入するのにこれほど長い時間がかかったことに驚いており、悪用が始まったらすぐに編集機能を削除すべきだったと述べた。プフェファーコーン氏は、画像が本物の人物であるかどうかをAIモデルがどのように判断するのか、ユーザーがルールを破った場合にどのような行動を取るのかなど、Xが新しいポリシーをどのように実施するのかについては疑問が残っていると述べた。マスク氏も同社について真剣な見方をしていない、と同氏は述べ、「ビキニ姿のキア・スターマー氏のAI画像を再投稿するような行為」をやめてくれれば助かるだろうと付け加えた。 #イーロンマスクのXGrokが実在の人物の脱衣画像をブロックする