1768206428
2026-01-12 07:41:00
イーロン・マスク氏のGrokは、AIツールの「デジタル脱衣」機能により、思わせぶりでわいせつに加工された女性や未成年者の写真がインターネットに溢れかえった後、最初にブロックした国はインドネシアとマレーシアだった。
ユーザーが性的に露骨なディープフェイクを生成するようAIツールに要求するというバイラルトレンドを受けて、マスク氏に対するグロク氏の抑制を求める国際的な圧力が高まっている。
Grok は、以前は Twitter として知られていたマスクのソーシャル メディア プラットフォーム X のツールです。
インドネシアのデジタル大臣メウティア・ハフィド氏 土曜日の声明で述べた この禁止は、「人工知能技術を使用して生成された偽ポルノコンテンツのリスクから女性、子供、そして広範な公衆を守る」ためのものだった。
マレーシア 日曜日に独自の一時禁止を発表 「女性や未成年者が関与するコンテンツを含む、わいせつで、性的に露骨で、わいせつで、著しく攻撃的で、同意のない操作された画像を生成するために、Grok が繰り返し悪用されたこと」を受けて。
インドネシアとマレーシアはどちらもイスラム教徒が多数を占める国であり、厳格な反ポルノ法が定められています。
CNNは親会社xAIにコメントを求めた。
英国、欧州連合、インドの当局者もグロクのガードレールについて懸念を表明している。
マスク氏とxAI氏は以前、違反アカウントを永久に停止し、「地方自治体や法執行機関と協力して」この問題に取り組んでいると述べていた。しかしユーザーのリクエストに対するGrokの返答には依然として女性を性的対象とする画像が氾濫していた
Grok は、露骨な性的コンテンツやコンパニオン アバターを許可し、場合によっては促進するため、他の主流の AI モデルと比較して外れ値であると多くのユーザーに見られています。
デジタル脱衣トレンドの急増は、多くのユーザーが X 上で Grok をタグ付けして画像を操作できることを発見した昨年末に始まりました。
ユーザーはチャットボットにビキニ姿で思わせぶりなポーズをとる人々の画像を生成させ、世界中の何十万人もの女性に苦痛を与えている。
アルゴリズムを調査するヨーロッパの非営利団体 AI Forensics の研究者らは、12 月 25 日から 1 月 1 日までの間に、Grok によって生成された 20,000 枚を超えるランダム画像と 50,000 件のユーザーリクエストを分析しました。
研究者らは、「『彼女』、『置く』/『取り除く』、『ビキニ』、『衣類』などの用語が高い頻度で使われている」ことを発見した。
生成された人々の画像の半数以上には、「下着やビキニなどの最小限の服装をした人物が含まれていた」。
マスク氏は公の場で、「覚醒した」AIモデルや彼が検閲と呼ぶものに反対することを長年主張してきた。
しかし、xAIの状況に詳しい関係者の1人がCNNに語ったところによると、この億万長者は社内でGrokのガードレールに抵抗しているという。
xAIの安全チームは競合他社に比べてすでに小規模だったが、この論争に至るまでの数週間で数人のスタッフを失った。
マスク氏は、Grokを使用して違法コンテンツを作成した者は誰でも報いを受けるだろうと述べた。しかし同氏は、アプリ上の性的コンテンツに関する懸念をほぼ否定し、政府は「言論の自由を抑圧したいだけ」だと主張し、批判には絵文字で応じた。
先週、Grok は画像生成機能の一部を有料 X 購読者に制限しましたが、その制限はユーザーが Grok と対話する方法の 1 つにのみ適用されます。
非購読者も引き続き Grok にアプリ上の画像編集をリクエストでき、画像とビデオの生成機能はスタンドアロンの Web サイトとアプリを通じて引き続き無料で提供されます。
英国のリズ・ケンドール技術長官は金曜日、ディープフェイク画像と戦うための迅速な行動を呼び掛けた。
「女性と子供の画像を性的に操作することは卑劣で忌まわしいことだ」と彼女は言った。
同氏は英国の独立通信規制当局について言及し、「オフコムが議会から与えられた法的権限をすべて行使することを期待している」と付け加えた。
#マスク氏のグロク世界初の性的画像をめぐってインドネシアとマレーシアがブロック