1769442354
2026-01-26 14:27:00
の 欧州委員会 は、プラットフォームのAIチャットボット「Grok」による露骨な性的画像の制作と児童性的虐待の可能性のある素材の拡散を巡り、イーロン・マスク氏のXに関する調査を開始した。
月曜日に開始された正式な調査では、ユーザーが新しいコンテンツを発見するのに役立つアルゴリズムであるXのレコメンダーシステムについても調査が拡大される。
Grok は、ユーザーが女性や子供をデジタル的に裸にし、挑発的なポーズをとらせることを許可し、国際的な怒りを引き起こしました。 Grok AI が生成した概要 2 週間以内に 300 万枚の性的画像を収集デジタルヘイト対策センターの研究者らによると、その中には子供を描いたと思われる2万3000件も含まれているという。
同委員会は、調査では、露骨に加工された性的画像や児童の性的虐待に相当するコンテンツなどの違法コンテンツの共有に関するリスクなど、EU内でのGrokの機能に起因する「リスクを同社が適切に評価し、軽減したかどうかを評価する」と述べた。
この調査は、インターネットユーザーを幅広い危害から保護することを目的とした比較的新しい法律である EU のデジタルサービス法 (DSA) に基づいて開始されました。
当局者は記者団に対し、問題を解決するためにX社が導入した措置を緩和することに委員会は納得していないと述べた。
加工された画像に対する最初の抗議の後、同社はツールへのアクセスを有料購読者に制限したが、欧州規制当局からの圧力を受けて方針を変更した。同社は今月初め、Grokが露出度の高い服装をした実在の人物の画像編集を許可しない措置を導入したと発表した。
委員会関係者は、今回の措置はグロクに対する広範な懸念を払拭するものではないと述べた。調査では、女性に対する暴力や児童の性的虐待を描いたコンテンツなど、違法コンテンツの生成による体系的なリスクが調査されている。 X社は「プラットフォーム上のリスクを軽減するための効果的な軽減策」を持っていなかった、と彼らは述べた。
同委員会のハイテク主権、安全保障、民主主義担当トップのヘナ・ヴィルクネン氏は調査を発表し、「女性と子供の同意のない性的ディープフェイクは、暴力的で容認できない形態の品位低下である。この調査により、X社がDSAに基づく法的義務を履行したかどうか、あるいは女性と子供を含む欧州市民の権利をサービスの付随的損害として扱ったかどうかを判断することになる」と述べた。
露骨な画像の調査と同様に、委員会は、ユーザーに対する情報とコンテンツをフィルタリングするためにGrokベースのモデルに移行するというX社の発表を考慮して、2023年12月に開始された調査をX社のいわゆるレコメンダーシステムにも拡大している。
この動きは英国のメディア監視機関であるOfcomの後に行われた。 独自の調査を発表 今月初め、X 上で「悪質な」違法コンテンツが公開されました。
同委員会は、特に X に関して DSA の執行が遅すぎるとして広く批判されている。
ドイツの緑の議員アレクサンドラ・ギース氏は、「調査は遅すぎるが、それでもプラットフォームが欧州の法律に従わなければならないという明確なシグナルを送ることができる」と述べた。 「この訴訟は明白です。何百万もの女性と多くの子供たちが受けた損害は取り返しのつかないものです。私たちは委員会がこの教訓を活かして今後より迅速に行動することを期待しています。」
EU当局者らはそうした批判を否定し、2024年2月から企業に適用されているDSAに基づいて15件の調査が継続していると指摘した。
中道右派アイルランド人の欧州議会副議長であるレジーナ・ドハティ氏は、正式な調査を歓迎すると述べた。 「AIシステムが女性や子供に害を及ぼす方法で使用されているという信頼できる報告が出た場合、遅滞なくEU法が調査され施行されることが不可欠だ」とドハティ氏は述べた。
調査に応じて、Xは1月14日に発表した声明へのリンクを提供した。「私たちは、Xをすべての人にとって安全なプラットフォームにすることに引き続き尽力し、あらゆる形態の児童の性的搾取、同意のないヌード、望ましくない性的コンテンツを一切容認しません。」
委員会 罰金 X 1 億 2,000 万ユーロ 先月、EU法違反で起訴された。このプラットフォームはユーザーを欺き、独立した研究者を妨害し、説明責任を回避していた」と述べた。
EU規制当局は、Xが認証を行わずにアカウントに「欺瞞的な」青色のチェックマークバッジを付与しており、ユーザーが悪意のある者による詐欺や欺瞞にさらされる可能性があると述べた。 X はまた、研究者が偽の広告やハイブリッド脅威キャンペーンを調査することを妨害することで、広告の透明性に関する EU の法的要件を破りました。
マスク氏は罰金を発表した委員会の投稿に対して「でたらめ」と返答し、その後EUの廃止を要求した。
同社には罰金の支払いに3か月の猶予が与えられた。 EU当局者は、罰金が支払われると確信していると述べた。
#EUGrok #が作成した露骨な性的画像を巡り #への調査を開始 #グロクAI