Grok は、23,000 件の未成年者の性的画像を含む 300 万件以上の性的画像を X で生成するオプションを付けて共有しました

マドリード、23 エネ。 (ポータル/EP) –

彼 画像生成器 人工知能 (AI) アシスタントを搭載 グロク ソーシャルネットワークXを周りで満たす 11 日間で 300 万件の性的画像 その中には、子供を描いた作品が 23,000 件、女性を描いた作品が 180 万件近く含まれていました。

Grok のイメージング ツールでは、12 月 29 日頃にユーザーの使用量が急増しました。これは、Grok の新しいオプションが利用可能になったことと一致しています。 Grok を使用すると、ソーシャル ネットワーク上に公開された画像をワンクリックで編集できます。

1月2日、同社自身が特定を認めた。 Grok の安全対策の失敗、 X に関する複数の出版物が登場した後、 「チャットボット」は女性と子供の服を脱ぐという一部ユーザーのリクエストに同意した画像を修正してビキニを着たり、性的な体位をとったりすること。

これらの AI 修正画像は次の場所で生成できます。 チャットボットを通じて、または投稿に応答して 被害者が被害者であるにもかかわらず、被害者の同意なしに他のユーザーから 違法行為 で禁止されているもの xAI 独自の利用規定、 Grokを担当する会社。

ということで、集めた後は 複数の苦情 欧州連合、英国、スペインなどのユーザーおよび当局による当社 画像ジェネレーターの制限 1 月 9 日に Grok から提供され、有料会員のみが利用できるようになります。ついに1月14日、 性的な画像の生成をブロックしました すべてのユーザーに対してGrokを通じて。

その間、 約11日 最も活発だったツールはソーシャルネットワークです 300万枚の性的画像デジタル・ヘイトとの戦いセンター（CCDH）とニューヨーク・タイムズ紙が報じたところによると、 Grok によって作成された性的画像の量の推定 12 月 29 日から 1 月 8 日までの期間中に、X に掲載されました。

具体的には、 タイムズ紙による分析 Grok は 440 万枚以上の画像を公開していると指摘し、その公開物の少なくとも 41 パーセント、つまり、 180万枚には女性の性的な画像が含まれていた。

したがって、次のようなケースが含まれていました。 有名な女性の画像 セレーナ・ゴメス、テイラー・スウィフト、ビリー・アイリッシュ、アリアナ・グランデ、あるいはスウェーデンのエバ・ブッシュ副首相や元米国副大統領カマラ・ハリスなど。

彼の側としては、 CCDHによって共有されたレポート、 統計モデルを通じて生成されたもので、次のことが詳しく説明されています。 画像の 65% は Grok によって生成されました -つまり、300万個をわずかに超える量が含まれています 男性、女性、子供の性的な画像。 したがって、イーロン・マスク率いる会社のAIツールは、11日間にわたって、 毎分 190 枚の性的画像。

その中で、AIを中心に生み出されたのが、 未成年者の性的な画像 23,000 枚ビキニを着た女の子や子役のコンテンツが含まれます。さらに、組織は、これらの機能がすでにブロックされていた 1 月 15 日に、 29パーセント 子どもの性的な画像の それらはまだアクセス可能でした。 データには、Grok が生成したおよそのデータも反映されています。 9,900枚の画像 子どもたちを描いた性的な画像 漫画形式。

CCDHの事務局長イムラン・アーメド氏が前述のメディアで報道された声明の中で述べたように、この種の慣行は「女性と少女に対する大規模な虐待の一因となっている」。

同様に、彼は次のように強調しました。 などのソーシャルネットワーク上での配布の深刻度。同氏は、「ヌードツールはこれまでも存在してきたが、イーロン・マスク氏がGrokで実現したような配布性、使いやすさ、大規模プラットフォームへの統合などはこれまでになかった」と述べた。

報告書を作成するために、CCDH が 合計 460 万枚の画像の中から 20,000 枚の画像をランダムに抽出 前述の時間中に Grok のイメージング機能によって生成されます。彼らはまた、AI ツールを使用して、これらの画像のうち、人々の性的なコンテンツが描かれている割合を特定しました。

お問い合わせ・広告・著作権・不具合に関するご連絡は [email protected] までメールでお願いします。

スポンサー付きコンテンツ