1768955835
2026-01-20 23:41:00
xAI の多目的ヘルパー、ファクト チェッカー、コンテンツ ジェネレーターである Grok は、チャットボットが危険であると懸念する国際規制当局から厳しい監視下にあります。
1 月初旬、X ユーザーは、Grok が児童性的虐待素材 (CSAM) の一種である、露出度の高い衣服を着た未成年者の性的な描写を作成する要求に応じていることを発見しました。 xAIのスタッフは、チャットボットのガードレールを強化することを検討していると述べた。
関連項目: Grok は、ディープフェイクへの懸念を受けて、画像の生成を加入者に制限したと述べています。しかし、それはありますか？
しかし、それは簡単な解決策ではありません。最近の調査によると ロイター、 大西洋、 そして 有線 らは、モデルの保護手段に広範な欠陥があり、ユーザーの要求に応じて Grok によって生成される、合意のない、性的で、時には暴力的なコンテンツの急増を可能にしていることを発見しました。 X では、調査員が大量の「脱衣」問題を発見しました。これは、公開投稿された画像を統合チャットボットによって編集され、露出度の高い服装をしているユーザーの多数のアカウントによって特徴付けられています。全国的な反性的暴行非営利団体である RAINN は、これを一種の性的暴行であると呼んでいます。 AI またはテクノロジーを利用した性的虐待。
MetaのAIコンパニオンを含む他のチャットボットやAIを活用した画像ジェネレーターも、性的コンテンツに関する保護措置を導入していないとして厳しい監視の対象となっている。
Xに関するユーザーの懸念に応えてCEOのイーロン・マスク氏は、同社は違法コンテンツの生成を真剣に受け止めているが、法的影響はユーザーに課せられるべきだと主張した。マスク氏はその後、サイト全体のブロックの可能性に関する英国指導者らのコメントに返答し、それを「問題」と呼んだ。 検閲の形態 そして外国政府はオンラインでの言論の自由を沈黙させようと躍起になっていると主張した。
政府はxAIを取り締まる
Xのチームの動きの遅さに応じて、各国はxAIのボットやスタンドアロンアプリへのアクセスを抑制し始めており、いくつかの国がGrokの安全対策、xAIの対応、同社がさまざまなオンライン安全法に違反している可能性について調査を行っている。
マッシュ可能な光の速度
同社は、Grok が CSAM を可能にしたという最近の主張の前に、すでにいくつかの調査を受けていました。
Xのコンテンツモデレーションとアルゴリズムに関する継続的な調査に加えて、加盟国は欧州連合に対し、デジタルサービス法に基づくいくつかの違反容疑についてGrokを調査するよう求めている。 「不安定な」動作。ここ数週間、当局は捜査を拡大するにあたり、Grokに関するすべてのデータと内部文書を保管するようXに命令した。
委員会の広報担当者はグロク氏の行為を「違法」と呼んだが、テクノロジー監視団体は委員会が次の措置を発動することに懐疑的である。 サイトを完全にブロックする。
英国の通信規制当局であるオフコムも次のことを発表した。 公式調査 オンライン安全法に違反したことが判明した場合、最大 10% (約 2,400 万ドル) の罰金が科せられる可能性があります。
米国の組織は、最近可決されたテイク・イット・ダウン法（NCII）を引用し、同意のない親密な画像の公開または公開の脅迫を犯罪とし、削除要求に従わないソーシャルメディア・プラットフォームを告訴する権限を連邦取引委員会（FTC）に付与していることを理由に、連邦政府機関にxAIの調査も求めている。
一方、他の国々は、同社が調査に従うか、Grokの安全構造を全面的に見直すまで、全面禁止を進めている。
Grok へのアクセスをブロックしている国
Grok を積極的に調査または停止すると脅している地域
-
インド
-
欧州連合
-
フランス
-
英国 – サービスのブロックを検討中
-
ブラジル – Grokを停職させると脅迫
-
オーストラリア – 16歳未満のユーザーのソーシャルメディアへのアクセスはすでにブロックされています
同意なしに親密な画像を共有された場合は、Cyber Civil Rights Initiative の 24 時間年中無休のホットライン 844-878-2274 に電話して、秘密厳守で無料のサポートを受けてください。 CCRI の Web サイトには次の内容も含まれています。 役立つ情報 のリストと同様に 国際リソース。
#これらの国はディープフェイクに対する不安を理由に #Grok #をブロックする可能性があります