Grok と X が依然として App Store で入手可能なのはなぜですか?

イーロン・マスクのAI チャットボット Grok は 使用されている X をフラッドする 何千もの 最小限の衣服を着た成人および見かけ上の未成年者の性的な画像。このコンテンツの一部は、X 自身のコンテンツに違反しているだけではないようです 政策、児童性的虐待素材 (CSAM) などの違法なコンテンツの共有を禁止していますが、Apple の App Store および Google Play ストアのガイドラインに違反する可能性もあります。

Apple と Google はどちらも、多くの国でホストおよび配布することが違法である CSAM を含むアプリを明示的に禁止しています。ハイテク大手は、ポルノ素材を含むアプリや嫌がらせを助長するアプリも禁止している。 Apple App Store 言う 「あからさまに性的またはポルノ的なコンテンツ」や「中傷的、差別的、または意地悪なコンテンツ」は許可されておらず、特にそのアプリが「対象となる個人またはグループを屈辱、脅迫、危害を与える可能性がある」場合は許可されません。 Google Play ストア 禁止する 「性的略奪的行為に関連するコンテンツを含むか促進する、または同意のない性的コンテンツを配布する」アプリ、および「脅迫、嫌がらせ、またはいじめを含む、または促進する」プログラム。

過去 2 年間にわたり、Apple と Google は多くの「nudify」アプリや AI 画像生成アプリを削除しました。 調査 BBC と 404 Media が発見 彼らは宣伝されていた または、同意なしに普通の写真を効果的に女性の露骨な画像に変えるために使用されます。

ただし、この記事の公開時点では、X アプリと スタンドアロンの Grok アプリ 両方のアプリ ストアで引き続きご利用いただけます。 Apple、Google、Xはコメントの要請に応じなかった。 Grokはマスク氏の数十億ドル規模の人工知能スタートアップxAIによって運営されているが、同社も『WIRED』からの質問には応じていない。で 公的声明 1 月 3 日に発表された、X は、CSAM を含むプラットフォーム上の違法コンテンツに対して措置を講じると発表しました。 「Grokを使用したり、違法コンテンツの作成を促したりした者は、違法コンテンツをアップロードした場合と同じ結果に見舞われるだろう」と同社は警告した。

同意のない性的コンテンツの拡散を防ぐ方法を組織に教える団体であるEndTABのトレーニング・教育ディレクターであるスローン・トンプソン氏は、AppleやGoogleのような企業がXやGrokに対して行動を起こすことは「まったく適切」であると述べている。

Grok によって生成された X 上の同意のない露骨な画像の量は、過去 2 週間で爆発的に増加しました。 1つ 研究者 同氏はブルームバーグに対し、1月5日から6日までの24時間にわたって、Grokは「性的なものを暗示または裸体化している」と認定した画像を毎時約6,700枚作成していたと語った。別のアナリストは、12月31日の2時間の間にGrokがX上で作成した画像の15,000以上のURLを収集した。 WIRED.jp レビューしました 画像の約 3 分の 1 は、露出度の高い服を着た女性が多く写っていることがわかりました。 2,500 以上が 1 週間以内に利用不可としてマークされ、約 500 が「年齢制限のあるアダルト コンテンツ」としてマークされました。

今週初め、欧州連合の統治機関である欧州委員会の報道官は次のように述べた。 公に非難される Grok on Xによって生成された露骨で同意のない性的画像は「違法」かつ「ぞっとする」ものであり、そのようなコンテンツは「ヨーロッパに居場所はない」とロイターに語った。

木曜日、EUは Xを注文しました 新たな正式な調査はまだ発表されていないが、当局がEUのデジタルサービス法の遵守に関連する資料にアクセスできるようにするため、事前の保持命令を延長し、Grokに関連するすべての内部文書とデータを2026年末まで保持することを決めた。規制当局 他の国、英国を含むインド、マレーシアも次のように述べています。 彼らです ソーシャルメディアプラットフォームを調査しています。