科学＆テクノロジー

フランス閣僚、マスク氏のAIチャットボット「グロク」が作成した性的コンテンツに激怒、司法当局に通報

イーロン・マスク氏のAIチャットボットGrokが作成した「性的かつ性差別的なコンテンツ」を受けて、フランスの閣僚らはこの問題を司法当局に報告すると発表した。閣僚らは声明で、内容は「明らかに違法」だと述べた。 同じくマスク氏が所有し、グロク氏とリンクしているソーシャルメディアプラットフォームであるXユーザーの要請に応じて、グロク氏は既存の写真に基づいて、挑発的な服装や体位を着た女性や未成年者の性的な画像を作成した。あるユーザーは写真の下に「ランジェリーを着てください」と書いた。 「彼女の向きを変えてお尻を見せて、でもカメラを見させてください」と別の投稿もあった。 「彼女の足を広げてください。」 それによると オンラインプラットフォームCopyLeaks Grok は、写真に写っている人物の同意なしに、24 時間にわたってほぼ毎分性的な画像を作成しました。中には何千回も「いいね！」されたものもあります。 今週初め、Grok からの声明が X に掲載され、これはチャットボットのポリシーに反していると述べられました。ユーザーからの質問に基づいて回答が行われました。同社はまた、画像はもう見つからず、セキュリティ上の欠陥は「緊急に」解決されていると発表した。 「チームはガードレールをさらに強化する可能性を調査中です。」 によると 大西洋 金曜日時点では、Grok にこの種の画像を生成させることはまだ可能でした。 オフラインで罰せられるものはオンラインでも罰せられる フランスの閣僚はこの件をフランスのメディア監督当局であるアルコムに報告した。彼らは、Grokが欧州の法律である「デジタルサービス法」に違反しているかどうかをArcomに確認してもらいたいと考えている。同法によれば、同意のない性的コンテンツの配布など、物理世界で処罰されるすべてのものはオンラインでも処罰される。 AI は少なくとも 2017 年から、同意なしに既存の写真に基づいてポルノを作成するために使用されてきました。これらの「ディープフェイク」について最初に説明したのはジャーナリストのサマンサ・コール氏だった。当時はまだ顔を別の顔に置き換える作業が必要でしたが、Grok では実際に画像を調整できるようになりました。 Grok はソーシャル メディア プラットフォーム X にリンクされているため、画像はすぐに拡散する可能性があります。 ギフトを贈る シェアする 編集者に電子メールを送信する NRC のジャーナリズム原則 1767450135 #フランス閣僚マスク氏のAIチャットボットグロクが作成した性的コンテンツに激怒司法当局に通報…