OpenAI、AIアルゴリズムのフィードに警戒するアーティストにオリーブの枝を提供

OpenAIは 訴訟を戦う ChatGPT やその他の AI システムの背後にあるアルゴリズムをトレーニングするために自分の作品を不適切に使用したと主張するアーティスト、作家、出版社からの報告です。 同社は火曜日に、OpenAIが作品をどのように使用するかをある程度制御できるようにすることで、クリエイティブと権利所有者をなだめることを目的としていると思われるツールを発表した。

同社は、コンテンツ作成者が自社のAI開発から自分の作品をオプトアウトできるようにする「Media Manager」と呼ばれるツールを2025年に発売する予定だとしている。 で ブログ投稿OpenAIはこのツールについて、「クリエイターやコンテンツ所有者が自分が所有しているものを私たちに伝え」、「自分の作品を機械学習の研究やトレーニングにどのように含めるか、または除外したいか」を指定できるようにする手段であると説明した。

OpenAIは、「クリエイター、コンテンツ所有者、規制当局」と協力してツールを開発しており、「業界標準を設定する」つもりだと述べた。 同社はこのプロジェクトのパートナーの名前を明らかにしておらず、ツールがどのように動作するかを正確に明らかにしていなかった。

このシステムに関する未解決の疑問には、コンテンツ所有者がすべての作品をカバーする単一のリクエストを行うことができるかどうか、および OpenAI がすでにトレーニングされ起動されているモデルに関連するリクエストを許可するかどうかが含まれます。 研究が進行中です 機械の「学習を解除」、 AI システムを調整してトレーニング データの一部の寄与を遡及的に削除するプロセスですが、この技術はまだ完成していません。

エド・ニュートン・レックス氏、スタートアップFairly TrainedのCEO AI企業を認定する 倫理的に調達されたトレーニング データを使用する OpenAI のトレーニング データへの明らかな変更は歓迎されるが、実装が重要になると述べています。 「OpenAI がこの問題に取り組んでいることを嬉しく思います。 それがアーティストにとって実際に役立つかどうかは、詳細はまだ明らかになっていないが、詳細が決まるだろう」と彼は言う。 彼の頭に浮かんだ最初の大きな疑問は、これは、コンテンツ所有者が除外を要求しない限り、OpenAI が許可なくデータを使用し続けるだけのオプトアウト ツールなのでしょうか? それとも、OpenAI のビジネスのやり方における大きな変化を意味するのでしょうか? OpenAIはコメント要請にすぐには返答しなかった。

Newton-Rex はまた、アーティストが複数の AI 開発者に自分の好みを一度に通知できるように、OpenAI が他の企業にメディア マネージャーの使用を許可するかどうかにも興味を持っています。 「そうでなければ、すでに複雑なオプトアウト環境がさらに複雑になるだけです」と、以前は Stability AI の幹部であり、開発者である Newton-Rex 氏は言います。 安定した拡散画像生成器。

アーティストやその他のコンテンツ作成者が AI プロジェクトでの作品や個人データの使用に関する好みを伝える方法を模索したのは OpenAI が初めてではありません。 Adobe から Tumblr まで、他のテクノロジー企業も次のサービスを提供しています。 オプトアウトツール データ収集と機械学習について。 スタートアップ Spawning は、と呼ばれるレジストリを開始しました。 トレーニングしないでください 約 2 年前、クリエイターたちはすでに 15 億の作品に対して好みを追加しています。

Spawning の CEO、Jordan Meyer 氏は、同社は Media Manager プロジェクトで OpenAI と協力していないが、協力することに前向きであると語った。 「OpenAI がユニバーサル オプトアウトの登録や尊重を容易にすることができれば、喜んでその成果を当社のスイートに組み込むつもりです」と彼は言います。