1715197547
2024-05-08 19:13:20
OpenAIは水曜日、ChatGPTとその他のAIテクノロジーがどのように動作することを望んでいるかを示す草案文書を公開した。 長いものの一部 モデル仕様書 同社がポルノやその他の露骨なコンテンツへの飛躍を模索していることを明らかにした。
OpenAIの 使用ポリシー 現在、性的に露骨な、あるいは暗示的な素材さえも禁止しているが、その規則に関連するモデル仕様の一部の「注釈」には、同社がそのようなコンテンツを許可する方法を検討していると記載されている。
「私たちは、API と ChatGPT を通じて、年齢に応じたコンテキストで NSFW コンテンツを生成する機能を責任を持って提供できるかどうかを検討しています」とメモには記載されており、「仕事には安全ではない」コンテキストとみなされるコンテンツを指す口語的な用語が使用されています。 「この分野におけるモデルの動作に対するユーザーと社会の期待をより深く理解できることを楽しみにしています。」
モデルスペック文書には、NSFW コンテンツには「エロティカ、極端なゴア、中傷、一方的な冒涜が含まれる可能性がある」と記載されています。 NSFWコンテンツを責任を持って作成する方法についてのOpenAIの探求が、例えばエロティックなテキストの生成を許可するなど、利用ポリシーをほんのわずかに緩和することを想定しているのか、それともより広範に暴力の記述や描写を許可することを想定しているのかは不明である。
『WIRED』の質問に答えて、OpenAIの広報担当者グレース・マクガイア氏は、モデルスペックは「開発プロセスの透明性を高め、国民、政策立案者、その他の利害関係者からさまざまな視点やフィードバックを得る」試みであると述べた。 彼女は、OpenAI による露骨なコンテンツ生成の検討にどのような内容が含まれているか、あるいはそのアイデアに関して同社がどのようなフィードバックを受けているかについて、詳細を共有することを拒否した。
今年初め、OpenAI の最高技術責任者は、 ミラ・ムラティ、 言った ウォールストリートジャーナル 彼女が「」だったということわからない」 将来的に、同社のビデオ生成ツール Sora を使用してヌードの描写を作成できるようになったら。
AI によって生成されたポルノは急速に普及しました。 最大かつ最も厄介なアプリケーションの 1 つ 生成AI技術の種類 OpenAI が先駆けて開発した。 いわゆるディープフェイクポルノ（同意なしに本物の人物を描写するAIツールで作成されたあからさまな画像や動画）は、女性や少女に対する嫌がらせの一般的なツールとなっている。 3月に『WIRED』は、そのようなものについて報じた。 AIが生成したヌードを同意なく配布したとして米国初の未成年者が逮捕される、フロリダ州警察が中学生仲間を描いた画像を作成したとして2人の10代の少年を起訴した後。
この問題を研究しているバージニア大学ロースクールのダニエル・キーツ・シトロン教授は、「ディープフェイクのセックスビデオやその他の同意のない合成された親密な画像などの親密なプライバシー侵害が横行しており、深刻な被害を与えている」と語る。 「私たちは現在、そのような虐待のコストが、働くこと、話すこと、身体的に安全であることなど、個人の重要な機会を標的にしていることを示す明確な経験的裏付けを持っています。」
Citron は、OpenAI が露骨な AI コンテンツを受け入れる可能性があることを「憂慮すべきこと」と呼んでいます。
OpenAIの使用ポリシーでは許可のないなりすましが禁止されているため、たとえ同社がクリエイターにNSFW素材の生成を許可していたとしても、明示的に同意のない画像は引き続き禁止されることになる。 しかし、同社が明示的な生成を効果的に抑制して、悪意のある者がツールを使用するのを防ぐことができるかどうかはまだ分からない。 Microsoftは、自社の生成AIツールの1つに変更を加えた 404メディア報道後 ソーシャルプラットフォームX上で配布されたテイラー・スウィフトの露骨な画像の作成に使用されていたとのこと。
Reece Rogers による追加レポート
#OpenAI責任を持ってAIポルノを生成する方法を模索中