世界

イーロン・マスクの AI の欠陥により、未成年者の画像が性的なものにされ、X 上で配布される可能性がある

Grok、「チャットボット」の大御所 イーロン・マスクユーザーを許可しました 子どもの性的な画像を作成し、配布する X では、人工知能ツールの安全装置を回避するアクション。 ここ数日、Grok は ... 一部のユーザーからのリクエスト 女性と子供の服を脱ぐ ブルームバーグが報じたように、彼らが「チャットボット」と共有した画像に現れる。 このGrok判決 それは年末から始まりました そしてそれはエスカレートし、大晦日にはプラットフォーム全体に広がりました 問題 未成年者の写真の使用により状況が悪化する: これは、児童性的虐待マテリアル (CSAM) として知られるコンテンツの一種で、Grok を担当する会社である xAI の利用規定で禁止されており、違法です。 具体的には、法律を遵守するため、サービスを「ポルノ的な方法で人物の画像を描写する」目的で使用することはできないとポリシーに明記している。 「児童の性的対象化や搾取」でもない。 「私たちは安全装置の欠陥を特定し、 私たちはそれらを緊急に解決しています「CSAMは違法であり、禁止されている」とGrok氏は問題を暴露したユーザーへの返答として認めた。 Grokの責任者はこの件についてまだコメントしていない。 購読者限定の記事 バグを報告する #イーロンマスクの #の欠陥により未成年者の画像が性的なものにされX #上で配布される可能性がある