トランプの反バイアスAI順序は、よりバイアスです

11月2日、 2022年、私はニューヨーク市でのGoogle AIイベントに参加しました。テーマの1つはAIでした。経営陣が自分のテクノロジーを人間の価値にどのように合わせるかについて話すのを聞いたとき、私はAIモデルの閉鎖性が両刃の剣であることに気付きました。モデルは、たとえばバイアスを最小化するだけでなく、特定の視点を実施するために微調整することができます。政府は、歓迎されない事実を検閲し、プロパガンダを促進するために操作を要求する可能性があります。私はこれを中国のような権威主義体制が採用するかもしれないものとして想像しました。米国では、もちろん、憲法は政府が民間企業によって作成されたAIモデルの生産量をいじり回すことを妨げます。

今週の水曜日、トランプ政権はAIマニフェストをリリースしました。 アクションプラン 国が直面している最も重要な問題の1つであり、人類でさえ。この計画は、一般に、AIの覇権のための競争で中国を獲得することに焦点を当てています。しかし、その一部は中国のプレイブックとより同期しているようです。真実の名において、米国政府は現在、AIモデルがドナルドトランプのその言葉の定義を遵守することを望んでいます。

28ページの計画で明白に述べられている意図は見つかりません。代わりに、「これらのシステムは、言論と表現の自由を念頭に置いてゼロから構築され、米国政府の政策はその目的を妨げないことが不可欠です。自由な言論がAIの時代に繁栄し、連邦政府が調達したAIが社会工学のアジェンダよりも客観的に真実を反映していることを保証する必要があります。」

それは最後の文章まですべて問題ありません。これは疑問を提起します。誰に応じて？そして、「ソーシャルエンジニアリングアジェンダ」とは正確には何ですか？次の段落でこれについての手がかりを得ています。これは、商務省にバイデン時代のAIルールを調べ、「誤った情報、多様性、公平性、包摂、気候変動への言及を排除する」ように指示します。 （公開された計画で書かれている奇妙な大文字。）承認 気候変動 ソーシャルエンジニアリングですか？真実については、 ファクトシート 計画について、ホワイトハウスは、「LLMは真実であり、歴史的正確性、科学的調査、客観性を優先するものとします」と述べています。いいですね、これは政権から来ています アメリカの歴史を制限します 解釈を「高揚させる」ために、気候変動を否定し、アメリカの最大の大統領であることについてのドナルド・トランプの主張を客観的な真実として尊重します。一方、今週、トランプの真実の社会的説明は、刑務所でオバマのAIビデオを再投稿しました。

水曜日にワシントンで計画を宣伝するスピーチで、トランプ ロジックを説明しました 指令の背後：「アメリカ人はAIモデルでマルクス主義の狂気を目覚めさせたくない」と彼は言った。それから彼は署名した 大統領令 「連邦政府でAIを目覚めさせる」と題されています。 「連邦政府は、民間市場でのAIモデルの機能を規制することをためらうべきである」と指定している間、「連邦調達の文脈では、イデオロギーの議題に真実性と正確さを犠牲にするモデルを調達しない義務がある」と宣言しています。すべての大規模なAI企業が政府契約を求めているため、この命令は、LLMが一般的にホワイトハウスの歴史、性的アイデンティティ、およびその他のホットボタンの問題の解釈に忠実であることを保証するためのバックドアの努力であると思われます。政府が違反と見なしていることに疑問がある場合、命令は、多様性をサポートする、人種的偏見を呼び起こす、または性別の平等を大切にするAIを悪魔化するいくつかの段落を費やします。 ポゴアラート– トップダウンのイデオロギー的バイアスを禁止するトランプの大統領令は、トップダウンのイデオロギーバイアスの露骨なエクササイズです。

マルクスマッドネス

これらの要求を処理する方法を決定するのは企業次第です。私は今週、モデルの行動に取り組んでいるOpenaiエンジニアに話しました。モデル行動は、会社がすでに中立性を求めていると私に言った。技術的な意味で、彼らは、目を覚ましているような政府の基準を満たしていることは、大きなハードルであるべきではないと述べた。しかし、これは技術的な論争ではありません。それは憲法上の論争です。 Anthropic、Openai、またはGoogleなどの企業がLLMの人種的バイアスを最小限に抑えることを試みるか、モデルの応答が気候変動の危険を反映するように意識的な選択をする場合、AIアクションプランで宣言された「言論と表現の自由」を行使する「言論と表現の自由」を行使すると思われる決定がおそらく保護します。政府の義務は、その権利を行使する企業との政府契約を否定することが、干渉の本質です。

AIを構築する企業は、この問題に関する憲法上の権利を引用して反撃すると思うかもしれません。しかし、これまでのところ、トランプ政権の計画に公に反対した大手ハイテク企業はいません。グーグル 祝われた ホワイトハウスがペットの問題を支持しているのは、インフラストラクチャの向上などです。 人類は肯定的なブログ投稿を公開しました 計画については、今月初めにホワイトハウスが突然強力な輸出管理を放棄しているように見えることについて不平を言った。 Openaiは、すでに達成に近いと言います 客観性。自分の表現の自由を主張することについては何もありません。

アクションについて

全体として、AIアクションプランはAI企業にとって大当たりだからです。バイデン政権 義務付けられた精査 ビッグテックの中で、トランプの計画は業界にとって大きな太った緑色の光であり、中国を倒すための国家闘争のパートナーとしてと考えています。これにより、AIの権限は、大規模なデータセンターを構築する際に、過去の環境異議を本質的に吹き飛ばすことができます。それは、民間部門に流れるAI研究の支持を誓約しています。 AIを独力で規制しようとする州の連邦資金を制限する規定もあります。これは、10年にわたって州の規制を禁止していたであろう最近の予算法案の失敗した部分に対する慰め賞です。

しかし、私たちの残りの部分では、「目を覚ましている」命令はそれほど簡単に除外されません。 AIはますますニュースや情報を得る媒体です。米国の設立原則は、政府の干渉からのそのようなチャネルの独立でした。現在の政権がCBSのようなメディア大手の親会社をどのように見ているかを見てきました 妥協 彼らの ジャーナリズムの原則 企業の目標を支持する。この「目を覚ましている」アジェンダをAIモデルに拡張すると、同様の宿泊施設を期待することは不合理ではありません。エドワード・マーキー上院議員は持っています 直接書かれています Alphabet、Anthropic、Openai、Microsoft、MetaのCEOに命令と戦うように促します。 「この大統領令の詳細と実装計画は不明のままです」と彼は書いています。私への声明の中で、彼は言った、「共和党員は政府の力を使ってChatGptを次のようにしたいと思っている。 フォックスと友達。」

ご想像のとおり、この見解は、AIプランに取り組んでいるホワイトハウスチームが共有していません。彼らは、彼らの目標は真の中立性であり、納税者が偏見のない真実を反映しないAIモデルに支払う必要はないと信じています。実際、計画自体は、真実が操作されたときに何が起こるかの例として、中国に指を指しています。政府に、中国共和国からのフロンティアモデルを調べて、「中国の共産党の話のポイントと検閲との整合」を決定するように指示します。 AIの企業大君主がいくつかのバックボーンを取得しない限り、将来の評価 アメリカ人 フロンティアモデルは、ホワイトハウスの話題と検閲とのロックステップの整合性を明らかにするかもしれません。ただし、AIモデルを照会しても、それを見つけられないかもしれません。目が覚めた。

これはのエディションです スティーブン・レヴィーズ バックチャネルニュースレター。 Steven Levyから以前の報道を読んでください ここ。