1769432458
2026-01-26 12:14:00
欧州委員会は、 違法または重大な有害なコンテンツの拡散を増加させる可能性があります。 特に、同意のないものや児童の性的虐待の素材となる可能性のあるものを含む、人工知能で操作された露骨な性的画像。
ブリュッセルは次のことを明確にしている 調査 これは、Grok を使用したイメージの生成だけでなく、
「暴力的で容認できない形態の劣化」
技術主権、安全保障、民主主義を担当する同委員会副委員長のヘナ・ヴィルクネン氏は、「女性と子供の性的ディープフェイクは暴力的で容認できない形態の品位低下である」と述べた。 「この調査では、
欧州委員会のトーマス・レニエ報道官はさらに次のように述べています。
委員会はデジタルサービス法に基づいて何を評価しますか
この調査は、X が大規模オンライン プラットフォームとして分類される事業体の義務、特にシステミック リスクと緩和策の分析を遵守しているかどうかを把握することを目的としています。この特定のケースでは、相互に関連する 3 つの側面が調査されます。
1つ目は、 違法コンテンツの管理 または、Grok に関連する重大な有害なコンテンツ (操作された同意のない露骨な性的画像など)、およびその一部が児童の性的虐待素材のカテゴリーに分類されるリスク。
2つ目は、 介入メカニズムの速度と有効性したがって、同じコンテンツの再出現を防止、検出、削除、削減できます。
3つ目は、 推奨システムの役割なぜなら、少数の人々によって作成されたコンテンツであっても、アルゴリズムによってプッシュされ、簡単に発見可能にされれば、システム的な問題になる可能性があるからです。この傾向は、すでに以前から技術的な調査措置の対象となっていた X 勧告に対する EU の広範な関心の一部です。
今何が起こるのか
デジタル サービス法は、委員会にさまざまな調査および制裁ツールを提供します。 情報請求、技術的確認、ヒアリング、検査 そして、必要に応じて、 是正措置。違反が確認された場合、DSA システムは次のことを許可します。 全世界の年間売上高の最大 6% の罰金また、決定に従わなかった場合には定期的な罰則が科せられる可能性もあります。
X の場合、それが最初ではないため、コンテキストは特にデリケートです。ザ2023 年の DSA 準拠手続きはまだ進行中です 一部の地域では、2025年12月にブリュッセルはすでにソーシャルネットワーク上で被害者を出している 1億2000万ユーロの罰金 透明性違反については、有料検証システム、広告リポジトリ、研究者向けのデータ アクセスの問題が含まれます。
Grok問題はEU外でも反応を引き起こした。英国では、規制当局のオフコムがオンライン安全法に基づく義務の遵守に関する調査を開始した一方、英国政府は同意のない親密な画像の作成と、それを作成するために設計されたツールの利用可能性を対象とする規制の加速を推進している。性的なディープフェイクは、特に悪用が予見可能かつ観察可能な場合、モデレーションの問題から、画像生成および編集機能を提供するサービスに対する法的責任問題へと急速に移行しています。
教えてもらえる事例
しかし、Grok事件は 生産と流通の統合そしてリスクはモデルだけでなく、プラットフォームがエクスペリエンスを設計し、機能を制御し、悪用を制限し、アルゴリズムの増幅を管理する方法にも依存します。このため、委員会は Grok システムと推奨システムを同じ調査枠組みにまとめています。
一方、マスク氏のソーシャルネットワークは、未成年者の性的搾取、同意のないヌード、望ましくない性的コンテンツについては一切容認しない方針を繰り返し表明しており、 また、編集の制限や現地の法律に関連する制限に関する介入を含む最近のプレスリリースにも言及しています。。ブリュッセルにとって重要なのは、これらの措置が欧州規模で十分かつ適時かつ真に効果的であることを実証することである。
#Grokの性的ディープフェイクに対するEUの調査暴力的で容認できない形式の品位低下