世界

マレーシアとインドネシア、AIディープフェイクをめぐりマスク氏のGrokを初めてブロック : –

ファイル - 2025年5月30日、ワシントンのホワイトハウス大統領執務室での記者会見でドナルド・トランプ大統領の話を聞くイーロン・マスク氏。 エヴァン・ヴッチ/AP通信 キャプションを隠す キャプションを切り替えます エヴァン・ヴッチ/AP通信 クアラルンプール、マレーシア — マレーシアとインドネシアは、イーロン・マスク氏のxAIが開発した人工知能チャットボット「Grok」が露骨で同意のない画像を生成する目的で悪用されていると当局が発表したことを受け、ブロックした最初の国となった。 この動きは、リアルな画像、音声、テキストを生成できる生成 AI ツールに対する世界的な懸念の高まりを反映しているが、既存の安全策では悪用を防ぐことができていない。マスク氏のソーシャルメディアプラットフォーム「X」を通じてアクセスされるGrokチャットボットは、ビキニ姿や露骨な性的ポーズをとった女性の描写や子供が関与する画像など、加工された画像を生成しているとして批判されている。 東南アジアの2カ国の規制当局は、既存の規制では、特に女性や未成年者が関与する偽ポルノコンテンツの作成や拡散を阻止できていないと述べた。インドネシア政府は土曜日にグロクへのアクセスを一時的に遮断し、日曜日にはマレーシアも続いた。 インドネシアのメウティヤ・ハフィド通信・デジタル担当大臣は土曜日の声明で、「政府は合意のない性的ディープフェイクはデジタル空間における国民の人権、尊厳、安全に対する重大な侵害であるとみなしている」と述べた。 同省は、この措置は女性、子供、そしてより広範なコミュニティをAIを利用して生成された偽ポルノコンテンツから守ることを目的としていると述べた。 デジタル空間監督局長のアレクサンダー・サバール氏は別の声明で、当初の調査結果では、ユーザーがインドネシア住民の実際の写真に基づいてポルノコンテンツを作成・配布することを阻止する効果的な保護手段がGrokには存在しないことが判明したと述べた。同氏は、同意なしに写真が加工されたり共有されたりする場合、そのような行為はプライバシーや肖像権を侵害し、心理的、社会的、風評被害を引き起こす危険があると述べた。 クアラルンプールでは、マレーシア通信・マルチメディア委員会が日曜日、女性や未成年者が関与するコンテンツを含む、わいせつで性的に露骨な同意のない操作画像を生成するツールの「繰り返しの悪用」があったとして、Grokに対する一時的な制限を命じた。 規制当局は、X社とxAIに対して今月発行された、より強力な安全策を求める通知に対し、主にユーザーの報告メカニズムに依存した反応が寄せられたと述べた。 「この制限は、法的規制の手続きが進行中である間の予防的かつ適切な措置として課される」と述べ、効果的な安全対策が講じられるまでアクセスは遮断されたままになると付け加えた。 2023 年にリリースされた Grok は、X 上で無料で使用できます。ユーザーはソーシャル メディア プラットフォームで質問したり、自分が直接作成した投稿にタグを付けたり、他のユーザーからの投稿に返信したりできます。同社は昨年夏、アダルトコンテンツを生成できるいわゆる「スパイシーモード」を含む画像生成機能「Grok Imagine」を追加した。 東南アジアでの規制は、欧州連合、英国、インド、フランスなど各国でGrokに対する監視が高まる中、導入された。 Grokは先週、人物の性的なディープフェイクに対する世界的な反発を受けて、画像の生成と編集を有料ユーザーに限定したが、問題に完全には対処していないと批評家らは指摘している。 #マレーシアとインドネシアAIディープフェイクをめぐりマスク氏のGrokを初めてブロック #-