民主主義を AI テクノロジーに統合するという OpenAI の「ムーンショット」は PR を超えたものなのでしょうか? | AIのビート

先週、OpenAIの広報担当者から電子メールで連絡があり、同社が「AIモデルの動作を導くために一般の意見を取り入れる」ことを可能にする「プロトタイピングプロセス」に焦点を当てる新しい「集団的調整」チームを結成したことを知らせてくれた。 目標？ 民主的な AI ガバナンスに他なりません – OpenAI の受信者 10 人の取り組みに基づいて構築されています AI への民主的なインプット助成プログラム。

私はすぐに笑いました。 皮肉屋の私は、「全人類に利益をもたらす安全な AGI を作成する」という崇高な理想を持つ OpenAI のアイデアに目を丸くして楽しんでいたが、API や GPT ストアを売り込み、より多くのコンピューティングを求めて著作権訴訟を回避しようとしているというありふれた現実に直面している。 、歴史を通じて人類の最も困難な課題の 1 つに取り組もうとしています。つまり、クラウドソーシングで民主的で国民の合意を形成することです。 何でも。

結局のところ、アメリカの民主主義そのものが今、かつてないほど試されているのではないでしょうか？ ディープフェイクや偽情報が2024年の選挙で民主主義を脅かすという根深い不安の核心はAIシステムではないのか？ 世論のような主観的なものが、AI システムのルールにどのようにして適用されるのでしょうか。OpenAI は、今日の商用 AI の王者であると客観的に言えると私は考えています。

それでも、OpenAI には、人間主導のより民主的な AI の開発に取り組むことをフルタイムの仕事とする人々がいるという考えに、私は魅了されました。これは間違いなく、希望に満ちた楽観的で重要な目標です。 しかし、この取り組みは単なる PR 行為、規制当局の監視が強化されている AI 企業による行為以上のものなのでしょうか?

OpenAIの研究者、集団的連携が「ムーンショット」になる可能性があることを認める

もっと知りたかったので、新しいCollective Alignmentチームの現在のメンバー2人とZoomに参加しました。テクノロジーの社会的影響を専門とするOpenAI研究者のTyna Eloundouと、以前OpenAIを率いていたプロダクトマネージャーのTeddy Leeです。 GPT、ChatGPT、DALL-E、OpenAI API の責任ある展開を保証するためのヒューマン データのラベル付け製品と運用。 チームは「積極的に探している」と研究エンジニアと研究科学者を加え、OpenAIの「ヒューマンデータ」チームと緊密に連携し、「同社のAIモデルに対する人間のインプットを収集するためのインフラストラクチャを構築する」ほかの研究チームと連携することになる。

私はエロウンドゥ氏に、AI システムが従うべきルールを決定するための民主的なプロセスを開発するというチームの目標を達成することがどれほど難しいかを尋ねました。 助成金プログラムを発表した 2023 年 5 月の OpenAI ブログ投稿では、「民主的プロセス」は「広範な代表者グループが意見を交換し、熟議を行い、最終的には透明性のある決定によって結果を決定するプロセス」と定義されていました。製作過程。」

エロウンドゥ氏は、多くの人がこれを「ムーンショット」と呼ぶだろうと認めた。

「しかし、社会として、私たちはこの課題に直面しなければなりませんでした」と彼女は付け加えた。 「民主主義自体は複雑で厄介であり、私たちは自分たちの社会、またはそれぞれの社会を統治する希望を得るために、さまざまな方法で自分自身を整えています。」 たとえば、民主主義のすべての要素（代表者数、投票方法など）を決定するのは人々であり、ルールが意味があるかどうか、ルールを改訂するかどうかを決めるのは人々である、と彼女は説明した。

Lee 氏は、不安を生み出す課題の 1 つは、民主主義を AI システムに統合する試みが無数の方向に進む可能性があることだと指摘しました。

「そもそも助成金プログラムを設けた理由の一つは、この分野ですでに多くの刺激的な仕事をしている他の人々が何をしているのか、何に重点を置くのかを見るためです」と彼は語った。 「これらのモデルを集合的にどのように見るかという社会技術的な世界は、足を踏み入れるのが非常に恐ろしい空間ですが、同時に、簡単に実現できる成果や、私たちが自分の目の見えない部分を確認できる方法もたくさんあります。斑点。」

10 のチームが民主的な手法を使用してアイデアを設計、構築、テストしました

新しいOpenAIによると ブログ投稿 先週発表された AI 補助金プログラムへの民主的インプットでは、AI システムを管理するルールを決定するために民主的な方法を使用するアイデアを設計、構築、テストするために、約 1000 人の応募者の中から 10 の多様なチームに 10 万ドルが授与されました。 「チームは全体を通して、デジタル格差を超えて多様な参加者を採用すること、多様な視点を表す一貫した成果物を生み出すこと、一般大衆に信頼される十分な透明性を備えたプロセスを設計することなどの課題に取り組んだ」とブログ投稿にはある。

各チームはさまざまな方法でこれらの課題に取り組みました。その中には、「新しいビデオ審議インターフェイス、AI モデルのクラウドソーシング監査用のプラットフォーム、表現保証の数学的定式化、モデルの動作を微調整するために使用できる次元に信念をマッピングするアプローチ」が含まれていました。

当然のことながら、差し迫った障害がありました。 10 チームの多くは、世論は毎日でもわずかに変化する可能性があることをすぐに学びました。 デジタル格差や文化格差を越えて適切な参加者にリーチするのは難しく、結果が歪む可能性があります。 二極化したグループの間で合意を見つけることができますか? ご想像の通り – 難しい。

しかし、OpenAI の Collective Alignment チームはひるみません。 イェール大学の政治学教授エレーヌ・ランドモアを含む当初の助成プログラムの顧問に加えて、エロウンドゥ氏は、チームが社会科学の多くの研究者に連絡を取ったと述べた。これらが現代の当然の帰結として最も近いものだと思います。」 （それを調べなければなりませんでした— 市民集会 「影響力を発揮するために、重要な公的問題について審議するために一般国民から抽選で選ばれた人々の集団」）

AI における民主的なプロセスに「最善の策」を与える

リー氏は、助成金プログラムの出発点の 1 つは、「何がわからないのかを知らない」ことだったと語った。 助成金の受領者はジャーナリズム、医学、法律、社会科学などの分野から来ており、国連和平交渉に携わった人もいたが、この分野での膨大な興奮と専門知識がプロジェクトにエネルギーを吹き込んだと氏は説明した。 「私たちが必要なのは、それを自社のテクノロジーに集中させる手助けをすることだけです」と彼は言いました。 「それはとてもエキサイティングなことであり、同時に謙虚なことでした。」

しかし、集団的調整チームの目標は最終的に実現可能でしょうか? 「それはまさに民主主義そのものだと思います」と彼は言った。 「それはちょっとした継続的な努力です。 私たちはそれを解決しません。 人々が関与し、人々の見方が変化し、人々が新しい方法でこれらのモデルと対話する限り、私たちはそれに取り組み続けなければなりません。」

エロウンドゥも同意した。 「私たちは間違いなく最善を尽くします」と彼女は言いました。

PR スタントであろうがなかろうが、私はそれに異論はありません。民主的なプロセスが糸でぶら下がっているように見える現在、AI システムの意思決定において民主的なプロセスを促進するあらゆる努力は賞賛されるべきであるように思えます。 そこで、実際、私は OpenAI に対して次のように言います。 あなたのベストショットで私を殴ってください。