1769444494
2026-01-26 15:27:00
欧州委員会は、児童性的虐待の可能性のある素材を含む性的に露骨な画像の使用を巡り、ソーシャルメディアプラットフォームXの一部であるAIツール「Grok」の調査を開始した。
これは、子供を含む性的に操作された画像の拡散に対する抗議を受けてのものだ。
調査はEUのデジタルサービス法（DSA）に基づいて行われる。
「女性と子供の性的ディープフェイクは暴力的で容認できない形態の品位低下である」と欧州委員会技術主権担当のヘナ・ビルクーネン氏は述べた。
「この調査により、X社がDSAに基づく法的義務を履行したかどうか、あるいは女性や子供を含むヨーロッパ国民の権利をサービスの付随的損害として扱ったかどうかを判断することになる。」
同委員会は、Xの欧州本社がアイルランドにあることを考慮し、メディア規制当局のコイミシウン・ナ・メアンと緊密に調整していると述べた。
コイミシウン・ナ・メアンは声明で、「ここ数週間、この問題について欧州委員会と集中的に取り組んできたことを受けて」正式な調査が開始されたことを歓迎すると述べた。
声明はさらに、「欧州とアイルランドの法律は、違法コンテンツに関連するオンラインプラットフォームに明確な責任を課しており、法律は欧州委員会と国内規制当局が監督する欧州全体の規制執行システムによって支えられている。われわれは捜査で役割を果たす用意がある」と付け加えた。
「私たちのコンタクト センターは、オンラインで遭遇するものについて心配している人々にアドバイスやサポートを提供するために利用できます。また、人々から受け取った情報は、プラットフォームの責任を追及するという私たちの仕事に役立ちます。私たちの社会には、合意のない親密な画像による虐待や児童の性的虐待の素材が存在する余地はありません。」
欧州委員会は、X社にはプラットフォーム上の違法コンテンツに関して徹底的なリスク評価を実施する義務がDSAに基づいてあり、同社はGrokのリスク評価をまったく含めていないと述べた。
「XがDSAに基づいて発行し、委員会に提出しなければならないリスク評価報告書を見ると、これは義務である」と委員会の報道官、トーマス・レニエ氏は述べた。
「これらは一般に公開されており、見ることができます。真実は 1 つあります。 [that] それは、Grok がこれらのリスク評価レポートのどこにも存在しないということです。これはどういう意味ですか？これは、X が Grok または Grok の機能が X に統合されるリスクを単純に評価していないことを意味します。 [that] EUの国民に問いかけているのです。
「企業がサービスに起因するリスクを軽減し、社内の体制を確実に整えることを期待しているという点で、これはすでに根本的な問題となっていますが、ここでは当てはまらないようです。」
欧州委員会は声明で、リスクが「現実化」し、EU域内の国民が深刻な被害にさらされていると述べた。
同委員会は、DSAに基づき、イーロン・マスク氏の会社は「違法コンテンツの普及、ジェンダーに基づく暴力に関連した悪影響、プラットフォームへのGrokの機能の導入に起因する身体的および精神的健康への重大な悪影響など」システム的リスクを熱心に評価し、軽減する義務があると述べた。
これとは別に、欧州委員会は2023年12月に開始されたXに対する調査を、過去の閲覧行動や好み、データの分析に基づいてユーザーに商品を提案するアルゴリズム、いわゆる「レコメンダー」システムにまで拡大した。
この調査では、X社が最近発表したGrokベースのレコメンダーシステムへの切り替えの影響を含め、レコメンダーシステムに関連するすべてのシステムリスクを適切に評価し、軽減したかどうかを調査している。
欧州委員会は、「この調査の準備にあたり、欧州委員会はアイルランドのデジタルサービスコーディネーターであるコイミシウン・ナ・メアン氏と緊密に協力してきた。さらに、コイミシウン・ナ・メアン氏は、第66条第3項に従い、EU設立国における国家デジタルサービスコーディネーターとして、この調査に関与することになる。」と述べた。
同委員会は、X社に追加の情報提供要請を送り、同社への聞き取りや検査も実施すると述べた。
DSA の下では、正式な手続きの開始により、欧州委員会は X の不遵守を発見するなど、さらなる執行措置を講じる権限を与えられます。
Grok は X によって開発された AI ツールです。2024 年以降、Grok はプラットフォーム上で使用され、ユーザーがテキストや画像を生成し、ユーザーの投稿にコンテキスト情報を提供できるようになりました。
これらのリスクには、違法コンテンツの拡散や、そのプラットフォームや機能によってもたらされる、未成年者を含む基本的権利に対する潜在的な脅威が含まれます。
欧州委員会は12月、欺瞞的なデザインの使用、広告の透明性の欠如、DSAに基づいて提供する義務がある研究者へのデータアクセスの不足などを理由に、X社に1億2000万ユーロの罰金を科した。
EU当局者らは、国の規制当局や犯罪防止当局が同意のない違法な画像の拡散への取り組みに役割を果たしていると指摘した。
EU高官は「これが本当に組織的なものであるという背景を与える事例を確立した」と述べた。
当局者らによると、昨年秋にX上のAIツールに関連した反ユダヤ主義的な内容が急増したため、Grokはしばらく監視下に置かれていたという。セビリアにある EU のアルゴリズム透明性センター (ECAT) の技術スタッフも、Grok の監視に携わっていました。
その後、欧州委員会は、X が Grok の役割に関してどのようなリスク評価を実施しているかに関する情報を要求し、プラットフォームに変更を加えるよう促しました。
「この10日間で [we had] 確かに、X との非常に激しいやりとりがありました。これは会社です。彼らが決めることは彼らが決めますが、あえて言えば、私たちの交流がなければ、おそらく彼らが行ったこの種の変化は何も現れなかったでしょう。」
しかし関係者らは、X社は一定の措置を講じたにもかかわらず、「システミックな」リスクを除去するにはまだ十分な措置を講じていなかったと述べ、X社がGrokを別個の事業体とみなしているようだと指摘した。
当局者らは、X社のコンプライアンス担当役員らと緊密に連絡を取り合っており、彼らは「協力的」で情報を提供していたと述べた。
2025年末にX社に罰金が課せられた後、同社には罰金の支払いに3か月の猶予が与えられた。
アイルランド代表の欧州議会議員レジーナ・ドハティ氏は声明で、正式な調査を開始するという欧州委員会の決定を歓迎すると述べた。
「AIシステムが女性や子供に害を及ぼす方法で使用されているという信頼できる報告が出た場合、遅滞なくEU法が調査され施行されることが不可欠だ」とドハティ氏は述べた。
ドハーティ氏は、これらの画像によって、新興の AI テクノロジーの規制と施行方法における広範な弱点が暴露されたと述べた。
「欧州連合には、オンラインで人々を保護するための明確なルールがある。これらのルールは、特に強力なテクノロジーが大規模に導入される場合には、実際に何らかの意味をもつはずだ。EUで事業を展開する企業は、法律を超越するものではない」と彼女は付け加えた。
もう一人のファイン・ゲール議員マリア・ウォルシュ議員は、欧州委員会は調査を行っている間、EU内でのGrokの使用を直ちに停止すべきだと述べた。
#EUX社のAIツールGrokに対する調査を開始