世界

「目を覚ました」aiをターゲットにするトランプの命令が従うことが不可能かもしれない理由

ドナルドトランプ米国大統領は、2025年7月23日にワシントンDCでAIサミットで署名された大統領令を表示しますチップSomodevilla/Getty Images ドナルド・トランプ大統領は、米国政府が「イデオロギーの偏見から解放されていない」人工知能開発者に連邦契約のみを与えることを保証したいと考えています。しかし、新しい要件により、彼の政権はハイテク企業のAIモデルに独自の世界観を課すことができ、企業はモデルを修正しようとする際に大きな課題とリスクに直面する可能性があります。 「政府契約は、AIシステムが「客観的」であり、「トップダウンのイデオロギー的バイアスのない」を保証するために構成されるべきであるという提案は、質問を促します。ワシントンDCの公共政策非営利団体である民主主義技術センターのBecca Branumは言います。 7月23日にリリースされたトランプホワイトハウスのAIアクションプランは、「政府がフロンティアの大手言語モデル（LLM）開発者とのみ契約することを保証するために、システムが客観的でトップダウンのイデオロギーバイアスから解放されることを保証するために」を推奨しています。トランプは、同じ日に「連邦政府で目が覚めたAIを防ぐ」というタイトルの関連する大統領命令に署名しました。 AIアクションプランはまた、米国国立標準研究所にAIリスク管理の枠組みを修正し、「誤った情報、多様性、公平性、包摂、気候変動への言及を排除する」ことを推奨しています。トランプ政権はすでに、誤った情報を研究し、DEIのイニシアチブを閉鎖する研究を還元しており、共和党が支援する議会に支援された法案での米国国家気候評価報告書に取り組んでいる研究者を却下し、クリーンエネルギー支出を削減しています。 「政府自体がこれらのシステムの開発者とユーザーに世界観を課している場合、AIシステムは「トップダウンバイアスのない」と見なすことはできません」とBranum氏は言います。 「これらの信じられないほど曖昧な基準は、虐待の機が熟しています。」 現在、連邦契約を保持または求めているAIの開発者は、「イデオロギー的バイアス」のないAIモデルに対するトランプ政権の推進に従わなければならないという見通しに直面しています。 Amazon、Google、Microsoftは、さまざまな政府機関にAIを搭載したクラウドコンピューティングサービスを提供する連邦契約を締結していますが、MetaはLlama AIモデルを防衛および国家安全保障アプリケーションに取り組んでいる米国政府機関が使用できるようにしました。 2025年7月、米国国防総省のチーフデジタルオフィスは、人類、オープン、イーロンマスクのXaiにそれぞれ最大2億ドル相当の新しい契約を授与したと発表しました。 Xaiの包含は、マスクの最近の役割を考慮して注目に値しました。これは、数千人の政府職員を解雇したトランプ大統領のDogeタスクフォースを率いていました。XaiのチャットボットGrokは、最近、人種差別主義者と反ユダヤ主義の意見を表現しながら、「Mechahitler」と表現する見出しを作っています。連絡を受けたときに回答を提供した企業はいずれもありません 新しい科学者、しかし、いくつかは、トランプのAI行動計画を称賛する彼らの幹部の一般的な声明に言及しました。 いずれにせよ、ハイテク企業がAIモデルがトランプ政権の好ましい世界観と常に一致するようにすることは困難であると証明される可能性があると、イタリアのボッコーニ大学のポール・ロッタは言います。これは、OpenaiのChatGptなどの人気のあるAIチャットボットを動力とするモデルである大規模な言語モデルが、元々訓練されていたインターネットデータの帯によって特定の傾向またはバイアスを浸透させているためです。 Röttgerと彼の同僚の調査によると、米国と中国の両方の開発者からの人気のあるAIチャットボットには、性別賃金平等や女性のスポーツへのトランスジェンダーの女性の参加など、多くの政治的問題に関する米国のリベラルな有権者のスタンスとより多くの驚くほど類似した見解が示されています。なぜこの傾向が存在するのかは不明ですが、チームは、開発者がモデルをリベラルな姿勢で具体的に調整するのではなく、真実性、公平性、優しさを奨励するなど、より一般的な原則に従うようにAIモデルをトレーニングすることの結果であると推測しました。 AI開発者は、特定のユーザープロンプトに対するAI応答を改善することにより、「特定の問題に関する非常に具体的なことを書くようにモデルを操縦する」ことができますが、モデルのデフォルトのスタンスと暗黙のバイアスは包括的に変更されません、とRöttgerは言います。このアプローチは、真実性の優先順位付けなど、一般的なAIのトレーニング目標と衝突する可能性があると彼は言います。 また、米国のハイテク企業は、商業AIモデルをトランプ政権の世界観と連携させようとすると、世界中の顧客の多くを疎外する可能性があります。 「現在、米国がグローバルなユーザーベースを使用してモデルに特定のイデオロギーを課そうとしている場合、これがどのようにパンアウトするかを見てみたいと思います」とRöttger氏は言います。 「それは非常に厄介になる可能性があると思います。」 ワシントン大学のジリアン・フィッシャーは、開発者が各モデルのバイアスについてより多くの情報を一般に公開したり、「意図的に多様なモデル」のコレクションを構築した場合、開発者が政治的中立性を近似しようとすることを試みることができます。しかし、「今日の時点で、真に政治的に中立的なAIモデルを作成することは、中立性の本質的に主観的な性質とこれらのシステムを構築するために必要な多くの人間の選択を考えると不可能かもしれません」と彼女は言います。 トピック： #目を覚ましたaiをターゲットにするトランプの命令が従うことが不可能かもしれない理由