科学＆テクノロジー

マレーシアとインドネシア、性的AI画像を巡ってマスク氏のGrokを初めてブロック

EILEEN NG、EDNA TARIGAN、AP通信 マレーシア、クアラルンプール (AP通信) — マレーシアとインドネシアがGrokをブロックした最初の国となった。 人工知能チャットボット この画像は、性的に露骨で同意のない画像を生成するために悪用されているとの懸念が世界の当局の間で高まったため、イーロン・マスクの会社xAIによって開発されました。 この動きは、リアルな画像、音声、テキストを生成できる生成 AI ツールに対する監視の高まりと、既存の保護手段がその悪用を防止できていないのではないかという懸念を反映している。 Grok チャットボット (マスク経由でアクセス) ソーシャルメディアプラットフォームXは、ビキニ姿や露骨な性的ポーズをとった女性の描写や、子供が関与する画像など、操作された画像を生成したとして批判されている。 先週、グロク 画像の生成と編集を有料ユーザーに限定 に続いて 世界的な反発 人々の性的なディープフェイクをめぐっては、問題が十分に解決されていなかったと批評家らは指摘している。 AP通信がxAIに電子メールでコメントを求めたところ、メディアサポートの電子メールアドレスから「レガシーメディアの嘘」という内容の自動返信が届いた。これは、世界的な反発に関してコメントを求められたときに別の電子メールで受け取ったメッセージと同じものでした。 東南アジア2カ国の規制当局は、既存の規制はウイルスの作成と蔓延を妨げていないと述べた。 偽のポルノコンテンツ、特に女性と未成年者が関係するもの。インドネシア政府は土曜日にグロクへのアクセスを一時的に遮断し、日曜日にはマレーシアも続いた。 「政府は、合意のない性的ディープフェイクはデジタル空間における国民の人権、尊厳、安全に対する重大な侵害であるとみなしている」とインドネシアの通信・デジタル担当大臣メウティア・ハフィド氏は土曜日の声明で述べた。 同省は、この措置は女性、子供、そしてより広範なコミュニティをAIを利用して生成された偽ポルノコンテンツから守ることを目的としていると述べた。 デジタル空間監督局長のアレクサンダー・サバール氏は、別の声明で、ユーザーがインドネシア住民の実際の写真に基づいてポルノコンテンツを作成・配布することを阻止するための効果的な保護手段がGrokには存在しないことが初期調査結果で判明したと述べた。同氏は、同意なしに写真が加工されたり共有されたりする場合、こうした行為はプライバシーや肖像権を侵害し、心理的、社会的、評判に悪影響を与える危険があると述べた。 クアラルンプールでは、マレーシア通信・マルチメディア委員会が日曜日、女性や未成年者が関与するコンテンツを含む、わいせつで性的に露骨で同意のない操作画像を生成するツールの「繰り返しの悪用」があったとして、Grokに対する一時的な制限を命じた。 規制当局は、X社とxAIに対して今月発行された、より強力な安全策を求める通知に対し、主にユーザーの報告メカニズムに依存した反応があったと述べた。 「この制限は、法的規制の手続きが進行中である間の予防的かつ適切な措置として課される」と述べ、効果的な安全措置が講じられるまでアクセスはブロックされたままになると付け加えた。 英国で捜査開始 2023 年にリリースされた Grok は、X 上で無料で使用できます。ユーザーはソーシャル メディア プラットフォームで質問したり、自分が直接作成した投稿にタグを付けたり、他のユーザーからの投稿に返信したりできます。同社は昨年夏、アダルトコンテンツを生成できるいわゆるスパイシーモードを含む画像生成機能「Grok…