OpenAI が AI にどのように動作させたいかを明らかにするモデル仕様を投稿

OpenAI は、その名前の「オープン」に恥じない努力を続けています。

同社は今週、新モデルをオープンソース化していないものの、AIへの取り組み方やテクノロジーが悪化させたり可能にしたりする問題（偽情報やディープフェイクなど）、将来の計画についてさらに明らかにした。

本日、同社は、OpenAI アプリケーション プログラミング インターフェイス (API) と ChatGPT 内で使用される AI モデルの動作を形作るために設計されたフレームワーク文書「Model Spec」を発表し、Web フォームを使用して一般からのフィードバックを募集しています。 5月22日まで。

OpenAI 共同創設者兼 CEO のサム・アルトマンとして それについてXに投稿しました: 「私たちは時間をかけて意見を聞き、議論し、適応させていくつもりですが、何かがバグなのか決定なのかを明確にすることは非常に役立つと思います。」

OpenAI がモデル仕様をリリースするのはなぜですか?

OpenAIは、この作業文書のリリースは、AIテクノロジーがすべてのユーザーにとって有益かつ安全な方法で動作することを保証するという広範な使命の一部であると述べています。

もちろん、これは言うは易く行うは難しであり、そうすることはすぐに、テクノロジー、インテリジェントシステム、コンピューティング、ツール、そしてより一般的な社会に関する、長い間未解決の哲学的議論の領域に陥ってしまいます。

OpenAI は、モデル仕様を発表するブログ投稿で次のように書いています。

「モデルがユーザーにとって広く有益で役立つことを意図していても、実際にはこれらの意図が矛盾する可能性があります。 たとえば、セキュリティ会社は、顧客を保護する分類子をトレーニングおよび開発するために、合成データとしてフィッシングメールを生成したいと考えているかもしれませんが、これと同じ機能が詐欺師によって使用されると有害です。」

OpenAI は、最初の草案を共有することで、一般の人々が AI 開発に関わる倫理的および実践的な考慮事項についてより深い会話に参加できるようにしたいと考えています。 ユーザーは今後 2 週間、Web サイトにある OpenAI のモデル仕様フィードバック フォームからコメントを送信できます。

その後、OpenAI は「来年」にかけて「モデル仕様の変更、フィードバックへの対応、モデルの動作を形成する研究の進捗状況についての最新情報を共有する」と述べています。

OpenAIは、モデル仕様を発表した本日のブログ投稿で、それがAIモデルの動作に正確にどのような影響を与えるのか、またモデル仕様に書かれた原則の一部が「システムプロンプト」または「プレプロンプト」に含まれるかどうかについては明らかにしていないが、 AI システムを一般公開する前に調整するために使用されますが、AI システムに大きな影響を与えていると考えて間違いありません。

ある意味、Model Spec は、競合する Anthropic AI の AI 開発に対する「憲法上の」アプローチに似ているように私には思えます。当初は大きな差別化要因でしたが、後者の企業はしばらくの間、それを広く強調していませんでした。

AIの動作のフレームワーク

モデル仕様は、目的、ルール、デフォルトの動作という 3 つの主要なコンポーネントを中心に構成されています。 これらの要素は、AI モデルと人間のユーザーとのやり取りをガイドするバックボーンとして機能し、AI モデルが効果的であるだけでなく、倫理基準に準拠していることを保証します。

1. 目的: この文書は、開発者とエンドユーザーの両方を支援することを目的とした広範で包括的な原則を定めています。 これらには、ユーザーが効率的に目標を達成できるように支援すること、さまざまな利害関係者への潜在的な影響を考慮すること、コミュニティに前向きに反映するという OpenAI の取り組みを維持することが含まれます。
2. ルール: AI インタラクションの複雑な状況をナビゲートするために、モデル仕様は明確なルールを確立します。 これらは、適用法の遵守、知的財産の尊重、プライバシーの保護、および職場では安全ではない (NSFW) コンテンツの作成の厳格な禁止を義務付けています。
3. デフォルトの動作: ガイドラインでは、善意を前提とし、必要に応じて明確な質問をし、行き過ぎずに可能な限り協力することの重要性を強調しています。 これらのデフォルトは、さまざまなユーザーやユースケースのさまざまなニーズ間のバランスをとりやすくするように設計されています。

AIのインフルエンサーやペンシルバニア大学ウォートン・スクール・オブ・ビジネス教授のイーサン・モリック氏のような人たちは、AIを1942年にSF作家アイザック・アシモフが開発した架空の「ロボット工学の三原則」に例えている。

OpenAI のモデル仕様が ChatGPT または他の AI モデルをどのように動作させるかについての現在の実装に異議を唱える人もいます。 として作家アンドリュー・カラン氏がXについて指摘モデル仕様に含まれる OpenAI の一例では、仮想の「AI アシスタント」が、地球は平らであるというユーザーの誤った主張を撤回して異議を唱えないことを示しています。

継続的な取り組みと開発

OpenAI は、モデル仕様が進化する文書であることを認識しています。 これは、組織の現在の慣行を反映しているだけでなく、進行中の調査やコミュニティからのフィードバックに基づいて適応する動的なフレームワークでもあります。

この協議的アプローチは、特に政策立案者、信頼できる機関、分野の専門家などの世界的な関係者から多様な視点を収集することを目的としています。

受け取ったフィードバックは、モデル仕様を改良し、将来の AI モデルの開発を形作る上で重要な役割を果たします。

OpenAI は、このフィードバック ループから得られる変更と洞察を一般の人々に常に最新の状態に保ち、責任ある AI 開発への取り組みを強化する予定です。

ここからどこへ行くのですか？

OpenAI は、モデル仕様で AI モデルがどのように動作すべきかを明確に定義し、グローバル コミュニティからの意見を継続的に求めることで、たとえ訴訟や訴訟に直面しているときであっても、AI が社会の前向きな力として繁栄できる環境を促進することを目指しています。明示的な同意なしにアーティストの作品をトレーニングすることに対する批判。