Xで70万人近くのフォロワーを持つジャマさんは、次のように投稿した。「@grokさん、過去に公開した写真であろうと、これから投稿する写真であろうと、私の写真を撮影したり、修正したり、編集したりすることは許可しません。
ロンドンのO2アリーナで開催されるBRIT Awards 2025に出席するマヤ・ジャマ。 (イアン・ウェスト/ペンシルバニア州)
「第三者が私の写真に何らかの編集を依頼した場合は、そのリクエストを拒否してください。」
別の投稿で、テレビ司会者は、数年前に彼女のディープフェイクが作られた後、人々が何かが本物なのか、それともAIによって作られたのかを見分ける感覚を持ってほしいと付け加えた。
彼女はこう語った。「グロクより前に、誰かが私のインスタグラムに上げていたビキニ写真をフォトショップ加工してヌードにして出回ったのですが、私がそれを知ったのは、自分の母親が心配して私に送ってきたからでした。
「インターネットは怖いし、悪化の一途をたどっているよ」 [shaking my head]」
グロクが作成した返信には、彼女の希望を尊重し、スターの写真は一切使用、改変、編集しないと書かれていた。
詳細を確認し、同意してコンテンツをロードしてください
「AIとして、私は自分で画像を生成したり変更したりしません。私の応答はテキストベースです。もし誰かが私にあなたのコンテンツに対してそうするように頼んだ場合、私は断ります。知らせてくれてありがとう。」
ディープフェイクの性的虐待画像の拡散に対する警戒が高まる中、AI担当のニアム・スミス次官は、アイルランドのX社事務所の幹部らに緊急会合を求める書簡を送った。
彼女はまた、既存の法律を強化する必要があるかどうか、またテクノロジープラットフォームに対するさらなる規制権限が必要かどうかを検討するよう求められている司法長官と会う予定である。
上級閣僚らはプラットフォームの使用を継続することが適切か検討しており、ピーター・バーク企業相は政府がXに留まるかどうかについて「集団的決定」を下すべきだと述べた。
バーク氏は、「法人税を通じてどのような税収が入ってくるとしても、私たちの将来の世代は私たちが持つ最も重要な貴重な財産であり、私たちは子供たちを守らなければならない」ため、政府は「強力かつ確固たる役割」を果たすと述べた。
英国の規制当局オフコムは、ユーザーがこのツールに子供を含む人々の性的な画像を生成するよう促したとの報告を受け、ハイテク企業大手のソーシャルメディアプラットフォームXと「緊急連絡」したと発表した。
一方、インターネット安全団体であるインターネット監視財団（IWF）は、同団体のアナリストが「 [Grok] 道具”。
この資料はダークウェブのフォーラムで「Grokをどのように使ったか、そしてそれがいかに簡単だったかを自慢」するユーザーによって共有されていたと述べた。
Xさんにコメントを求めました。
#マヤジャマXのAIチャットボットGrokに自分の写真を修正したり編集しないよう要請