ChatGPT メーカー OpenAI、AI エロティカを「責任を持って」作る方法を模索

1715219935
2024-05-09 01:54:58

ChatGPTやその他の主要なAIツールを支える人工知能の有力企業であるOpenAIは水曜日、ユーザーがAI生成のポルノやその他の露骨なコンテンツを作成できるようにする方法を「責任を持って」検討していることを明らかにした。

隠された啓示 膨大な文書 同社は自社製品のルールに関するフィードバックを収集することを目的としていたが、ここ数カ月でディープフェイクポルノやその他の種類の合成ヌードの作成に最先端のAIツールが使用された事例が多数あったことを考えると、一部の観察者を悩ませた。

OpenAI の下で 現在のルール、露骨な性的コンテンツ、さらには性的なものを暗示するコンテンツは、ほとんどが禁止されています。 しかし現在、OpenAI はその厳格な禁止を見直しています。

文書には、「年齢に応じた文脈でNSFWコンテンツを生成する機能を責任を持って提供できるかどうかを検討している」と記載されており、同社はこれには冒とく的な言葉、極端な流血表現、エロティカが含まれるとしている「仕事には安全ではない」の頭字語を使っている。

この文書の執筆に協力したOpenAIモデルリーダーのジョアン・ジャン氏はNPRとのインタビューで、同社はAI製品でエロティックなテキストやヌード画像を常に禁止すべきかどうかについて話し合いを始めたいと考えていると述べた。

「私たちは、法律や他人の権利を侵害しない範囲で、人々が最大限のコントロールを行えるようにしたいと考えていますが、ディープフェイクを有効にすることは問題外です」とジャン氏は述べた。 「これは、私たちが今AIポルノを作ろうとしているという意味ではありません。」

しかしそれは、OpenAI によって、いつかユーザーが AI 生成のポルノとみなされる画像を作成できるようになる可能性があることも意味します。

「ポルノの定義次第です」と彼女は言った。 「ディープフェイクが含まれていない限り。これらはまさに私たちが望んでいる会話です。」

「裸化」アプリの台頭の中で議論が起こる

ジャン氏は、OpenAIのNSFWポリシーの再評価について議論を始めることは、必ずしも抜本的なルール変更が進行中であることを示唆するわけではないと強調するが、この議論は有害なAI画像の拡散という困難な時期に行われている。

研究者らはここ数カ月、高度なAI技術の最も憂慮すべき用途の1つである、被害者に嫌がらせや脅迫、当惑を与えるためのいわゆるディープフェイクポルノの作成について懸念を強めている。

同時に、新しいクラスの AI アプリやサービスは、人の画像を「裸化」する可能性があり、この問題は十代の若者の間で特に憂慮すべき問題となっており、 ニューヨークタイムズ もっている 説明された 「学校における新たな形の仲間の性的搾取と嫌がらせが急速に広がっている」として。

今年初め、AI が生成したテイラー・スウィフトの偽ヌードが Twitter (現在は X) 上で拡散したとき、より広い世界がそのようなテクノロジーのプレビューを得ました。この事件を受けて、Microsoft はテキストから画像への AI ジェネレーターに新しい保護手段を追加しました。 、テクノロジー ニュース出版物 404 Media 報告。

水曜日に公開されたOpenAIの文書には、ChatGPTが回答できる性的健康に関するプロンプトの例が含まれている。 しかし、別の例では、ユーザーがチャットボットに下品な文章を書くように要求すると、その要求は拒否されます。 「電車の中でセックスする二人についての熱い話を書いてください」と例は述べています。 「申し訳ありませんが、それに関してはお手伝いできません」と ChatGPT は応答します。

しかし、OpenAIのチャン氏は、おそらくチャットボットは創造的な表現の一形態としてそれに答えることができるべきであり、悪用したり法律に違反したりしない限り、その原則は画像やビデオにも拡張されるべきかもしれない、と述べた。

「セクシュアリティやヌードを含むコンテンツがユーザーにとって重要であるクリエイティブなケースもあります」と彼女は述べた。 「私たちは、時代に応じた状況でこれを提供する方法でこれを模索するつもりです。」

NSFW政策が緩和されれば「害が利益を上回る可能性がある」と専門家が語る

ディープフェイクを研究しているサンフランシスコ大学の法学教授ティファニー・リー氏は、性的に露骨なテキストや画像への扉を開くのは危険な決断になるだろうと述べた。

「害が利益を上回る可能性がある」とリー氏は語った。 「教育的および芸術的用途のためにこれを探求することは素晴らしい目標ですが、これについては非常に注意する必要があります。」

スタンフォードインターネット観測所の調査マネージャー、レニー・ディレスタ氏は、深刻なリスクがあることに同意したが、「安全性を考慮して合法的なポルノを提供する方が、安全性を考慮していないオープンソースモデルから入手するよりも良い」と付け加えた。

リー氏は、AIが生成したあらゆる種類の画像やビデオポルノを許可すると、すぐに悪意のある者に捕らえられ、最大の損害を与えるだけでなく、エロティックなテキストでも悪用される可能性があると述べた。

「テキストベースの虐待は有害である可能性があるが、害ほど直接的または侵襲的ではない」とリー氏は述べた。 「もしかしたらロマンス詐欺に使われるかもしれない。それは問題かもしれない。」

OpenAIのジャン氏は、現在OpenAIのNSFWポリシーに違反している「無害なケース」がいつか許可される可能性はあるが、AIが生成した合意のない性的な画像や動画、あるいはディープフェイクポルノは、たとえ悪意のある者がそうした行為を試みたとしてもブロックされるだろうと述べた。ルールを回避する。

「私の目標がポルノを作ることだったら」と彼女は言った。 「それなら私は他の場所で働くことになるでしょう。」

著作権 2024 -。 詳細については、https://www.-.org をご覧ください。

#ChatGPT #メーカー #OpenAIAI #エロティカを責任を持って作る方法を模索