1768355585
2026-01-13 12:46:00
リアルな画像、音声、テキストを生成できる生成 AI ツールに対する監視の目が高まっており、既存の保護手段がその悪用を防止できていないのではないかとの懸念が高まっています。ファイル |写真提供: AP
マレーシア当局は火曜日（2026年1月13日）、イーロン・マスク氏のソーシャルメディアプラットフォームXとその人工知能部門xAIに対し、Grokチャットボットのユーザーの安全を確保できなかったとして法的措置を取ると発表した。
この動きは、マレーシアとインドネシアがGrokへのアクセスをブロックする最初の国となった数日後に行われたもので、Grokが性的に露骨で同意のない画像を生成するために悪用されているとの懸念が高まっている。
マレーシア通信・マルチメディア委員会は声明で、露骨な性的、わいせつ、極度に不快な画像や同意のない操作画像などの有害なコンテンツを生成・配布する目的でGrokが悪用されたことを確認したと発表した。
同社は今月、XとxAIに有害なコンテンツを削除するよう通知を出したが、何の措置も講じられていないと述べた。
「女性と子供が関与しているとされるコンテンツは大きな懸念事項である。そのような行為はマレーシアの法律に違反し、安全保障への取り組みを損なうものである」と両社は述べた。同委員会は弁護士を任命しており、近く法的手続きが開始されると述べた。
リアルな画像、音声、テキストを生成できる生成 AI ツールに対する監視の目が高まっており、既存の保護手段がその悪用を防止できていないのではないかとの懸念が高まっています。
2023 年にリリースされた Grok は、X 上で無料で使用できます。画像生成機能である Grok Imagine が昨年追加され、アダルト コンテンツを生成できるいわゆる「スパイシー モード」が含まれていました。
Grokは、ビキニ姿の女性や露骨な性的ポーズの描写、子供が関与する画像など、操作された画像を生成したとして批判されている。
Grokは欧州連合、インド、英国から圧力を受けており、月曜日（2026年1月12日）に「ヌードアプリ」を犯罪化する方向で動いていると発表した。英国のメディア規制当局も、グロク氏が子どもの性的な画像を共有することをユーザーに許可したことで法律に違反したかどうかについて調査を開始した。
Grokは先週、性的な人物のディープフェイクに対する世界的な反発を受けて、画像の生成と編集を有料ユーザーに限定したが、問題に完全には対処していないと批評家らは指摘している。
マスク氏とその企業は東南アジアの制限について公にはコメントしていない。 xA1 は、メディアの問い合わせに対して「レガシーメディアの嘘」という自動返信を行ってきました。
発行済み – 2026年1月13日午後6時16分（IST）
#Grok #AI問題マレーシアはマスク氏のXxAIに対して法的措置を講じる予定