1742477815
2025-03-14 23:29:00
国立標準技術研究所（NIST）は、「AIの安全性」、「責任あるAI」、および「AI公平性」の言及をメンバーに期待する「AI公平性」の言及を排除する米国人工知能安全研究所（AISI）と提携する科学者に新しい指示を発行し、「イデオロギーの存在を優先する」というリクエストを導入します。
この情報は、3月上旬に送信されたAI Safety Institute Consortiumメンバーの最新の協同研究開発協定の一環としてもたらされます。以前、その合意は、性別、人種、年齢、または富の不平等に関連する差別的モデル行動を特定して修正するのに役立つ技術的な仕事に貢献することを研究者に奨励しました。このようなバイアスは、エンドユーザーに直接影響を与え、少数派や経済的に恵まれないグループに不釣り合いに害を及ぼす可能性があるため、非常に重要です。
新しい契約は、「コンテンツを認証し、その出所を追跡するための」というツールの開発と「合成コンテンツのラベル付け」に関する言及を削除し、誤った情報とディープフェイクの追跡への関心が少ないことを示しています。また、アメリカを第一にさせることに重点を置き、1つのワーキンググループに「アメリカのグローバルAIのポジションを拡大するために」テストツールを開発するように依頼します。
「トランプ政権は、AIの大切なこととして、安全性、公平性、誤った情報、責任を削除しました。これは、それ自体が語ると思います」と、AI Safety Instituteと協力している組織のある研究者は言います。
研究者は、これらの問題を無視すると、収入や他の人口統計に基づいて識別するアルゴリズムがチェックされない可能性があることにより、通常のユーザーを傷つける可能性があると考えています。 「あなたがハイテク億万長者でない限り、これはあなたとあなたが気にかけている人々にとってより悪い未来につながるでしょう。AIは不公平、差別的、安全であり、無責任に展開することを期待しています」と研究者は主張します。
「それはワイルドです」と、過去にAI Safety Instituteと協力した別の研究者は言います。 「人間が繁栄することさえ意味しますか？」
イーロン・マスク、現在リードしています 物議を醸す努力 トランプ大統領を代表して政府の支出と官僚主義を削減するために、OpenaiとGoogleによって構築されたAIモデルを批判しています。昨年2月、彼はXにミームを投稿しました。そこでは、ジェミニとオープンは「人種差別主義者」と「目が覚めた」とラベル付けされました。彼はよく 引用 Googleのモデルの1つが、たとえそれが核の黙示録を妨げるとしても、誰かを誤解することが間違っているかどうかを議論した事件、つまり非常にありそうもないシナリオです。その上 テスラ そして SpaceX、Muskは、OpenaiとGoogleと直接競合するAI会社であるXaiを経営しています。 Xaiにアドバイスする研究者は最近、大規模な言語モデルの政治的傾向を変更する可能性のある新しいテクニックを開発しました。 報告されています 有線で。
増え続ける研究は、AIモデルの政治的バイアスが両方に影響を与える可能性があることを示しています リベラル派 と保守派。例えば、 Twitterの推奨アルゴリズムの研究 2021年に公開されたことは、ユーザーがプラットフォーム上で右寄りの視点を示す可能性が高いことを示しました。
1月以来、ムスクのいわゆる 政府の効率性局 （Doge）は、米国政府を席巻し、公務員を効果的に解雇し、支出を一時停止し、トランプ政権の目的に反対する可能性のある人々に敵対的であると考えられる環境を作り出しています。教育省などの一部の政府部門は、DEIに言及する文書をアーカイブおよび削除しています。 Dogeはまた、最近数週間でAISIの親組織であるNISTをターゲットにしています。数十人の従業員が解雇されました。
#トランプの下ではAIの科学者は強力なモデルからイデオロギーバイアスを削除するように言われます