イーロン・マスクのGrok AIによる性的画像に対する世界的な反発

ワシントン：イーロン・マスク氏のAIツール「Grok」は月曜（1月5日）、女性や未成年者の性的なディープフェイクを生成したことで国際的な反発が高まり、欧州連合も非難に加わり、英国も調査を警告した。Grok に最近公開された「画像編集」ボタンにより、ユーザーは「ビキニを着せる」や「服を脱ぐ」などのプロンプトを表示してオンライン画像を変更できるようになり、虐待に関する苦情がインターネット上に殺到した。このデジタル脱衣騒動は、人工知能（AI）による「裸化」アプリの急増に対するハイテク運動家たちの懸念の高まりを受けて起きたもので、フランス、インド、マレーシアなどの国々から迅速な調査や是正措置を求める声が上がっている。EUのデジタル監視機関として機能する欧州委員会も月曜日にこれに加わり、マスク氏の新興企業xAIが開発し、同氏のソーシャルメディアプラットフォームXに統合されているGrokに関する苦情を「非常に真剣に検討している」と述べた。「Grokは現在、子供っぽい画像で生成された一部の出力とともに露骨な性的コンテンツを表示する『スパイシーモード』を提供している。これはスパイシーではない。これは違法だ。これは恐ろしいことだ」とEUのデジタル担当広報担当トーマス・レニエ氏は述べた。「これはヨーロッパに居場所はない。」英国のメディア規制当局オフコムは、「英国のユーザーを保護する法的義務を遵守するためにどのような措置を講じているかを把握するため、XとxAIに緊急に連絡を取った」と述べた。返答に応じて、Ofcom は「調査が必要な潜在的なコンプライアンス問題があるかどうかを判断」します。「恐ろしい」マレーシアを拠点とする弁護士アジラ・アジズ氏は、フィリピン在住とみられるユーザーがグロク氏に「プロフィール写真をビキニ」に変更するよう促したことに恐怖を表明した。アジズ氏はAFPに対し、「公人にサングラスをかけるなど、無邪気でふざけたAIの使用は問題ない」と語った。「しかし、同意のない女性や子供に対してAIを武器にするジェンダーに基づく暴力には断固として反対しなければならない」と付け加え、ユーザーに対し、Xとマレーシア当局に違反を報告するよう呼び掛けた。他のXユーザーはマスクに対し、「グロクに子供にビキニを着せるように頼む」と思われる小児性愛者に対して行動を起こすよう直接懇願した。「グロクは今、子供の頃の私の写真を脱がしている」とマスク氏の子供の一人の母親であるアシュリー・セント・クレア氏はXに書いた。「これは客観的に見て恐ろしいことであり、違法です。」AFPがコメントを求めたところ、xAIは「レガシーメディアの嘘」と簡潔な自動応答で返答した。オンラインでの炎上の嵐のさなか、Grokは金曜日、ツールの欠陥の修正に急いでいることをユーザーに保証しようとした。グロク氏はXで「安全措置の不備を特定し、早急に修正している」と述べた。「CSAM（児童性的虐待資料）は違法であり、禁止されています。」これとは別に、Grokは先週、「ユーザーのプロンプトに基づいて、性的な服装をした2人の少女（推定年齢12～16歳）のAI画像」を生成し共有したことに対する謝罪を投稿した。「ひどく攻撃的」パリの検察庁が先週、Grokが児童ポルノの作成と配布に使用されていたという新たな告発を含めてXに対する捜査を拡大したことを受けて、一連の反応が起きた。Xに対する最初の捜査は、同プラットフォームのアルゴリズムが外国からの干渉を目的に操作されているとの報告を受けて7月に開始された。金曜日、インド当局はXに対し、性的コンテンツを削除し、不快なユーザーを取り締まり、72時間以内に「行動報告書」を提出するよう指示した、そうしなければ法的措置をとるよう指示したと地元メディアが報じた。期限は月曜日に過ぎたが、これまでのところ、Xが応答したかどうかについての最新情報はなかった。マレーシア通信・マルチメディア委員会も週末、X社全体の「下品で著しく不快な」コンテンツに関する国民の苦情に対して「深刻な懸念」を表明した。さらに、違反行為を調査しており、X社の代表者を召喚する予定であると付け加えた。この批判は、ガザ戦争、インド・パキスタン紛争、オーストラリアでの銃撃事件など、最近の危機に関する誤った情報を大量に流しているとして批判にさらされているグロクに対する監視の目を強めている。 #イーロンマスクのGrok #AIによる性的画像に対する世界的な反発