科学＆テクノロジー

Grok は政治家のヌード写真を作成しました。フランスとインド当局が行動を起こした

数日前、Grokが作成した写真が同じくマスク所有のXプラットフォームに掲載され始め、そこには公私を問わず、露出度の高い、あるいは完全に服を脱いでいる人々が写っていた。これらの写真の中には未成年者が写っているものもあります。写真に写っている人々はこれに同意しておらず、多くの場合、自分たちの画像がこのように変更されたことにさえ気づいていませんでした。 こちらもお読みください: AIの世界におけるスキャンダル。イーロン・マスクのグロクはヒトラーを賞賛し、ポーランドの政治家を攻撃している。大臣の反応あり 判明したのは、 Grok はユーザーのリクエストに応じて、普通の写真を裸の写真に変換することができました または性行為中。このようなコマンドを発行し、その効果を X にアップロードする傾向は、特に大晦日に強まりました。メディアの報道によると、過去 2 日間で、何百人もの女性と十代の若者が、この方法で生成された自分の写真を見つけたと報告しました。 「セキュリティ上の脆弱性」 この事件がメディアでより広く報道され始めた金曜日、Grok氏は声明を発表し、セキュリティの脆弱性によりそのような写真がXに掲載されたと説明した。「ユーザーが露出度の高い服を着た未成年者のAI生成画像を要求し、受け取ったケースが個別に存在する。xAIには安全策が講じられているが、そのような要求を完全にブロックするための改善に取り組んでいる」とGrok氏は述べた。 ビジネスインサイダーでも読む フランスとインドの当局は、この問題に関してすでに行動を起こしている。フランス経済大臣ロラン・レスキュール氏、デジタル・人工知能大臣アンナ・ル・エナンフ氏、平等大臣オーロラ・ベルジェ氏は金曜日、次のように発表した。 違法コンテンツについて検察庁に通報し、即時削除を要求した。フランスの国営メディアおよびインターネット規制当局であるアルコムにも、この画像について通知があった。 こちらもお読みください: イーロン・マスク氏：「人型ロボットはどこにでも存在するようになるだろう。」私たちは仕事を失うことになります これに対し、インド電子情報技術省はXに対し、「ヌード、性的表現、露骨な性的コンテンツ、その他違法なコンテンツ」を含むコンテンツの生成を制限するなど、Grokに対して是正措置を講じるよう求め、講じられた措置に関する報告書の提出に72時間の猶予を与えた。 Grok はリリース以来、下品なコンテンツの共有、有名人への侮辱、貧弱なプライバシー保護などに関連して論争の的となってきました。 #Grok #は政治家のヌード写真を作成しましたフランスとインド当局が行動を起こした