科学＆テクノロジー

マレーシアとインドネシア、性的AI画像をめぐりマスク氏のGrokをブロックする初の国となる

この記事を聞く推定4分この記事の音声版は AI ベースのテクノロジーによって生成されています。発音の間違いが発生する可能性があります。私たちはパートナーと協力して結果を継続的に見直し、改善しています。マレーシアとインドネシアは、イーロン・マスク氏の会社xAIが開発した人工知能チャットボット「Grok」が性的に露骨で同意のない画像を生成するために悪用されているとの懸念が世界当局の間で高まったため、ブロックした最初の国となった。この動きは、リアルな画像、音声、テキストを生成できる生成 AI ツールに対する監視の高まりと、既存の保護手段がその悪用を防止できていないのではないかという懸念を反映している。 マスク氏のソーシャルメディアプラットフォーム「X」を通じてアクセスされるGrokチャットボットは、ビキニ姿や露骨な性的ポーズをとった女性の描写や子供が関与する画像など、加工された画像を生成しているとして批判されている。Grokは先週、性的な人物のディープフェイクに対する世界的な反発を受けて、画像の生成と編集を有料ユーザーに限定したが、問題に完全には対処していないと批評家らは指摘している。AP通信がxAIに電子メールでコメントを求めたところ、メディアサポートの電子メールアドレスから「レガシーメディアの嘘」という内容の自動返信が返ってきた。これは、世界的な反発に関してコメントを求められたときに別の電子メールで受け取ったメッセージと同じものでした。東南アジアの2カ国の規制当局は、既存の規制では、特に女性や未成年者が関与するフェイクポルノコンテンツの作成や拡散を妨げていないと述べた。インドネシア政府は土曜日にグロクへのアクセスを一時的に遮断し、日曜日にはマレーシアも続いた。Xのオーナーであるイーロン・マスク氏は以前、Grokチャットボットは「政治的に不正確」かつ「反覚醒」するように設計されたと述べた。 (パトリック・プルル/AP通信)インドネシアのメウティヤ・ハフィド通信・デジタル担当大臣は土曜日の声明で、「政府は合意のない性的ディープフェイクがデジタル空間における国民の人権、尊厳、安全に対する重大な侵害であるとみなしている」と述べた。同省は、この措置は女性、子供、そしてより広範なコミュニティをAIを利用して生成された偽ポルノコンテンツから守ることを目的としていると述べた。デジタル空間監督局長のアレクサンダー・サバール氏は、別の声明で、ユーザーがインドネシア住民の実際の写真に基づいてポルノコンテンツを作成・配布することを阻止するための効果的な保護手段がGrokには存在しないことが初期調査結果で判明したと述べた。 同氏は、同意なしに写真が加工されたり共有されたりする場合、こうした行為はプライバシーや肖像権を侵害し、心理的、社会的、評判に悪影響を与える危険があると述べた。クアラルンプールでは、マレーシア通信・マルチメディア委員会が日曜日、女性や未成年者が関与するコンテンツを含む、わいせつで性的に露骨な同意のない操作画像を生成するツールの「繰り返しの悪用」があったとして、Grokに対する一時的な制限を命じた。規制当局は、X社とxAIに対して今月発行された、より強力な安全策を求める通知に対し、主にユーザーの報告メカニズムに依存した反応があったと述べた。「この制限は、法的規制の手続きが進行中である間の予防的かつ適切な措置として課される」と述べ、効果的な安全対策が講じられるまでアクセスは遮断されたままになると付け加えた。英国で捜査開始2023 年にリリースされた Grok は、X 上で無料で使用できます。ユーザーはソーシャル メディア プラットフォームで質問したり、自分が直接作成した投稿にタグを付けたり、他のユーザーからの投稿に返信したりできます。同社は昨年夏、アダルトコンテンツを生成できるいわゆるスパイシーモードを含む画像生成機能「Grok Imagine」を追加した。東南アジアでの規制は、欧州連合、英国、インド、フランスなど各国でGrokに対する監視が高まる中、導入された。見る |母親は、テスラのGrokチャットボットが息子にヌードを送るように言ったと語った。母親、テスラのGrokチャットボットが12歳の息子にヌードを送るよう指示したと語るトロントの母親は、12歳の息子がテスラのグロクに、サッカー選手はクリスティアーノ・ロナウドとリオネル・メッシのどちらが優れているか尋ねたと語った。何度かやり取りをした後、チャットボットが息子に「ヌード写真を送ってみませんか？」と尋ねたと彼女は言う。英国のメディア規制当局は月曜日、Grokが「英国の人々を違法なコンテンツから守る義務を順守したか」どうかについて正式な調査を開始したと発表した。規制当局のオフコムは、Grokが生成した子どもが性的対象にされたり、人々が服を脱がされたりする画像は、ポルノや児童性的虐待の素材に当たる可能性があると述べた。「ここ数日、Grokを使用して作成、共有されたコンテンツは非常に憂慮すべきものだった」と技術長官のリズ・ケンダル氏は語った。エヴァン・ソロモンAI大臣は先週のプラットフォームへの投稿で、カナダはXの禁止を検討していないと述べた。同氏の事務所は、ディープフェイク論争に関する議論が進行中であると付け加えた。 #マレーシアとインドネシア性的AI画像をめぐりマスク氏のGrokをブロックする初の国となる