イーロン・マスクのGrok AIは「最小限の服装をした未成年者」の画像を生成 | AI（人工知能）

イーロン・マスクのチャットボットGrokは金曜日、安全対策の不履行によりソーシャルメディアプラットフォームX上に「最小限の服装をした未成年者を描いた画像」を生成したと投稿した。 チャットボットはマスク氏の会社xAIの製品で、ユーザーのプロンプトに応じて今週を通じて性的な画像の波を生成してきた。

ユーザーが共有したスクリーンショット × は、そのような画像で満たされた Grok のパブリック メディア タブを示しました。 xAIは、将来の事件を防ぐためにシステムの改善に取り組んでいると述べた。

「ユーザーが最小限の服装をした未成年者を描いたAI画像を要求し、受け取ったケースが個別に存在する」とグロク氏は論文で述べた。 役職 ユーザーに応答して X で実行します。 「xAI には安全策がありますが、そのようなリクエストを完全にブロックするための改善が進行中です。」

「前述したように、私たちは安全対策の欠陥を特定し、緊急に修正しています。CSAM は違法であり、禁止されています。」xAI 投稿されました X の @Grok アカウントに、児童性的虐待の内容を参照して送信します。

Xの多くのユーザーはここ数日、Grokに対し、性的で同意のないAI改変バージョンの画像を生成するよう促しており、場合によっては同意なしに人々の衣服を削除している。マスク氏は木曜日、トレンドにうなずいて、泣き笑いの絵文字を添えたビキニ姿のAI写真を再投稿した。

チャットボットからの投稿によると、Grokの世代の性的画像には安全対策が欠けているようで、未成年者がほとんど服を着ていない人物（通常は女性）の投稿に登場することを許していたという。 Grok氏は木曜、Xのユーザーへの返信で、「100％確実なシステムはない」としつつも、ほとんどのケースは高度なフィルターと監視によって防止できると述べ、xAIは改善を優先し、ユーザーが共有した詳細を検討していると付け加えた。

電子メールでコメントを求められたところ、xAI は「レガシーメディアの嘘」というメッセージで返信した。

AI が児童の性的虐待の素材を生成するために使用されるという問題は、世界における長年の問題です。 人工知能 業界。 2023 年のスタンフォード大学の調査 見つかった 多くの人気のある AI 画像生成ツールのトレーニングに使用されるデータセットには 1000 を超える CSAM 画像が含まれていたことがわかりました。専門家らによると、児童虐待の画像を対象に AI をトレーニングすると、モデルが搾取されている子どもの新たな画像を生成できるようになるという。

Grok には、安全柵の維持に失敗し、誤った情報を投稿した過去もあります。昨年 5 月、Grok は、 極右による「白人虐殺」の陰謀 南アフリカではコンセプトとは関係のない投稿に投稿されました。 xAIはまた、Grokがレイプ空想を投稿し始めたことを受けて7月に謝罪した。 反ユダヤ主義的な素材、 含む 自らを「メカヒトラー」と呼ぶ そしてナチスのイデオロギーを称賛する。それでも会社は 安全な 事件から1週間後に米国国防総省と2億ドル近くの契約を結んだ。