企業

イーロン・マスクのGrokボット、抗議を受けて性的画像の生成を制限

イーロン・マスク氏のGrokチャットボットは木曜日、ユーザーや政府からの世界的な反発を受けて、無課金ユーザーがディープフェイクで性的な画像を作成する機能を制限し始めた。 先月下旬、一部のユーザーはマスク氏のソーシャルメディアプラットフォームX上で「彼女にビキニを着せろ」などのプロンプトを付けてGrokをタグ付けし始め、X上に実在の人物の同意のない画像を生成した。有名人、政治家、一部の未成年者の画像を含む変形画像は Grok によって作成され、X に公開されました。 現在の制限が始まる前に、マスク氏はグロク氏にビキニを着た自分の画像を作成するよう指示し、AI脱衣トレンドに参加した。 ユーザーと当局は苦情を申し立て、Xを告訴するか処罰すると脅迫した。グロク氏は当初、子供と思われる人物の不適切な写真について謝罪した。 現在、X は物議を醸している Grok のモーフィング機能をペイウォールの背後に置きました。 英国や欧州委員会を含む各国政府は、画像の作成や編集の機能がまだ残っているため、X社の保護措置に満足していないと述べた。 利用可能 有料ユーザーへ。「AI画像の生成を有料ユーザーに限定することで量がわずかに減り、追跡可能性が向上するかもしれないが、悪用は止められていない。単にペイウォールの内側に置かれ、Xが危害から利益を得られるようにしているだけだ」とRefugeでテクノロジーを利用した悪用と経済的エンパワーメントの責任者エマ・ピッカリング氏は声明で述べた。AIを利用した嫌がらせと多くの人が呼んでいるものに対する国民の怒りが高まる中、規制当局も注目し、自国でXを禁止する提案も出ている。英国のキア・スターマー首相は、Xはこの「不快な」傾向を「把握しなければならない」と述べた。 「これは決して容認できないことなので、我々は行動を起こすつもりです」とスターマー氏は語った。ベールに包まれた反発の中で、マスク氏は英国の規制当局を批判したようだ 怒り ChatGPT では、創造的で明示的ではないプロンプトを通じて、非実在の人物のビキニ画像の作成も許可されているという主張を再投稿することによって。欧州委員会はGrokが性的な画像を制作したとして非難した後、規則の順守を確実にするためにXに対しGrokに関するすべての文書を保管するよう命じた。「私たちが明示的に要求した場合には、それらにアクセスできるようにする必要がある」と欧州委員会の広報担当者は述べた。 記者会見。フランス、インド、マレーシア、ブラジルもこのプラットフォームを精査している。 AI による脱衣の初期の標的は公人でしたが、すぐに私人にその標的が移りました。 AI検出会社コピーリークスの分析によると、1月3日、あるユーザーはGrokに対し、職場環境で同意のない性的な画像を生成するようGrokに指示した。 ジェンダー正義団体ウルトラバイオレットは、 キャンペーンを実施しました Xが児童性的虐待ガイドラインに違反しているという理由で、AppleとGoogleにそれぞれのアプリストアからXを削除するよう圧力をかける。 マスク氏は、自社のチャットボットを、より多くの機能を備えた Gemini、ChatGPT、Claude などの代替手段と比較して、よりエッジの効いた代替手段として位置付けています。 制限的なガイドライン 露骨なコンテンツのリクエストについて。 #イーロンマスクのGrokボット抗議を受けて性的画像の生成を制限