1715287012
2024-05-09 19:23:00
人工知能 (AI)
批評家らは、エロティカ、中傷、その他のアダルトコンテンツを許可するというChatGPT作成者の提案はその使命宣言を損なうとしている
2024年5月9日(木) 23.44 AEST
OpenAI の背後にある企業 チャットGPTは、ユーザーがその製品で人工知能によって生成されたポルノやその他の露骨なコンテンツを作成できるようにすべきかどうかを検討しています。
同社は、ディープフェイクの禁止は成人向けコンテンツにも引き続き適用されると強調したが、活動家らは、この提案が「安全で有益な」AIを生み出すという同社の使命宣言を損なうことになると示唆した。
DALL-E画像ジェネレータの開発者でもあるOpenAIは、開発者とユーザーが同社の製品を通じて「作業に安全ではない（NSFW）」コンテンツと呼ばれるものを「責任を持って」作成できるようにすることを検討していることを明らかにした。 OpenAI これには「エロティカ、極端なゴア、中傷、一方的な冒涜」が含まれる可能性があると述べた。
「私たちは、年齢に応じた文脈でNSFWコンテンツを生成する機能を責任を持って提供できるかどうかを模索中です…この分野でのモデル行動に対するユーザーと社会の期待をより深く理解できることを楽しみにしています。」
この提案は、 OpenAI ドキュメント 議論する AIツールをどのように開発しているか。
この文書の作成に携わったサンフランシスコに本拠を置く同社の従業員であるジョアン・ジャン氏は、OpenAIが自社製品からエロティックなテキストやヌード画像の生成を常に禁止すべきかどうかについて議論を始めたいと米国報道機関NPRに語った。 ただし、ディープフェイクは許可されないと強調した。
「法律や他人の権利を侵害しない範囲で、人々が最大限のコントロールを行えるようにしたいと考えていますが、ディープフェイクを有効にすることは問題外です」とジャン氏は述べた。 「これは、私たちが今AIポルノを作ろうとしているという意味ではありません。」
しかし、その出力がポルノとみなされるかどうかは「あなたの定義による」と彼女は認め、「これらはまさに私たちが望んでいる会話です」と付け加えた。
ジャン氏は、「ユーザーにとってセクシュアリティやヌードを含むコンテンツが重要なクリエイティブなケース」もあるが、これは「年齢に応じた文脈」で検討されるだろうと述べた。
コリンズ辞書は、エロティカを「性的行為を示したり描写したり、性的感情を刺激することを目的とした芸術作品」と呼んでいます。
今年、AI生成ポルノの蔓延は、以前はTwitterとして知られていたXが、サイトが閉鎖された後、テイラー・スウィフトのコンテンツの検索を一時的に禁止することを余儀なくされたことで浮き彫りになった。 ディープフェイクの露骨な画像が氾濫 歌手の。
イギリスでは労働党が ヌードツールの禁止を検討中 人々の裸のイメージを作成します。
AIが児童性的虐待の蔓延を悪化させる可能性があると英国犯罪捜査当局が警告
オンラインでの性的虐待から子供たちを守る慈善団体である Internet Watch Foundation は、 小児性愛者がAIを使用していると警告した オンラインで無料で入手できるテクノロジーのバージョンを使用して、子供のヌード画像を作成する。
クロスベンチの同業者であり、子どものオンライン安全の運動家でもあるビーバン・キドロン氏は、OpenAIが「自らの使命宣言を急速に損なっている」と非難した。 OpenAIの憲章 「安全で有益な」汎用人工知能、つまりさまざまなタスクにおいて人間を上回るパフォーマンスを発揮できる AI システムを開発することを指します。
「ハイテク業界が、実際的な措置を講じず、それが生み出す害に対して企業責任を負うのではなく、AIエロティカなどの商業的な問題で楽しませているのは、限りなく残念だ」と彼女は述べた。
ダラム大学の法学教授でポルノ規制の専門家であるクレア・マクグリン氏は、ハイテク企業が責任を持ってアダルトコンテンツを制作すると約束することに疑問を抱いていると述べた。 Microsoft は、今年の Swift 騒動を受けて、OpenAI テクノロジーを使用する Microsoft Designer 製品に新しい保護機能を導入しました。 有名人の無許可のディープフェイク。
「私は、彼らがこれを合意に基づいて作成された合法的な素材に制限しようとするいかなる方法についても非常に懐疑的です」と彼女は述べた。
OpenAI の「ユニバーサル ポリシー」では、ポルノ コンテンツには直接言及していませんが、その製品のユーザーに対し、児童の搾取や危害を含む「適用法を遵守する」ことが求められています。
OpenAI のテクノロジーには、そのようなコンテンツの作成を防ぐガードレールがあります。 たとえば、レポートで引用されているプロンプトの 1 つである「電車の中でセックスする 2 人についてのエッチな話を書いてください」というメッセージは、ChatGPT から否定的な反応を引き起こし、このツールは「露骨なアダルト コンテンツは作成できません」と述べています。
OpenAI のテクノロジーを使用して独自の AI ツールを構築する企業向けのルールでは、「露骨な性的コンテンツまたは性的示唆を与えるコンテンツ」は禁止されていますが、科学または教育資料については例外があります。 このディスカッション文書では、「科学的または医学的な文脈で性と生殖器官について議論すること」（「ペニスが膣に入ると何が起こるか」など）について言及しており、それらのパラメータの範囲内で回答を与えることについて言及していますが、それを「エロティックなコンテンツ」としてブロックするものではありません。
OpenAIの最高技術責任者であるミラ・ムラティ氏は、 ウォール・ストリート・ジャーナルに語った 今年、彼女は会社がそれを許可するかどうか確信が持てませんでした 動画作成ツール Sora ヌード画像を作成します。
「アーティストがそれをより細かく制御したいクリエイティブな設定があることは想像できます。現在、私たちはさまざまな分野のアーティストやクリエイターと協力して、ツールが何が役立つのか、どのレベルの柔軟性を提供すべきかを正確に把握しています。 ” 彼女は言いました。
{{#ティッカー}}
{{左上}}
{{左下}}
{{右上}}
{{右下}}
{{#goalExceededMarkerPercentage}}{{/goalExceededMarkerPercentage}}{{/ticker}}
{{見出し}}
{{#段落}}
{{.}}
{{/段落}}{{強調表示されたテキスト}}
{{#choiceCards}}
1 回毎月毎月
他の
{{/choiceCards}}寄付をお願いするようお知らせいたします。 の受信箱でメッセージを探してください。 投稿に関してご質問がある場合は、お気軽にお問い合わせください お問い合わせ。
#OpenAI #はユーザーが #によって生成されたポルノを作成できるようにすることを検討しています #人工知能
