1734901484
2024-12-22 20:05:00
日次および週次のニュースレターに参加して、最新の更新情報や業界をリードする AI に関する独占コンテンツを入手してください。 もっと詳しく知る
2024 年の米国選挙は経済や移民などの伝統的な問題に焦点を当てましたが、その静かな影響は AI政策 さらに大きな変革をもたらす可能性があります。 AI に関する討論の質問や主要な選挙公約が 1 つもなかったため、有権者はうっかり加速主義者、つまり規制のハードルを最小限に抑えた迅速な AI 開発を主張する人々に支持を傾けてしまいました。この加速がもたらす影響は深く、慎重さよりもイノベーションを優先する AI 政策の新時代の到来を告げ、両者の議論に決定的な変化をもたらすことを示唆しています。 AI の潜在的なリスクと利益。
ドナルド・トランプ次期大統領のビジネス寄りの姿勢から、多くの人は同政権がAIやその他の先進技術を開発・販売する企業を優遇するだろうと予想している。彼のパーティー プラットフォーム AIについてはほとんど何も言えません。しかし、AI規制の撤廃に焦点を当てた政策アプローチを強調しており、特に退陣する政権の既存の大統領令の中で「急進的左翼思想」と称されるものをターゲットにしている。対照的に、このプラットフォームは言論の自由と「人類の繁栄」を促進することを目的としたAI開発を支持し、技術進歩を妨げるとみなされる措置に反対しながらAIの革新を可能にする政策を求めた。
政府の主要な地位への任命に基づく初期の兆候は、この方向性を強調しています。しかし、より大きな物語が展開されています。 AIの未来。
激しい議論
それ以来 チャットGPT 2022 年 11 月に発表された後、AI 開発を加速したいと考えている AI 分野の人々と、減速したいと考えている人々の間で激しい議論が巻き起こっています。
有名な話として、後者のグループは 2023 年 3 月に、最先端システムの開発における AI の 6 か月の一時停止を提案し、次のように警告しました。 公開書簡 AIツールは「社会と人類に重大なリスク」をもたらすと述べた。この手紙は、 未来の生命研究所は、ChatGPT のリリースから数か月後、OpenAI が GPT-4 ラージ言語モデル (LLM) をリリースしたことがきっかけでした。
この書簡には当初、イーロン・マスク氏、アップル共同創設者のスティーブ・ウォズニアック氏、2020年大統領候補のアンドリュー・ヤン氏、ポッドキャスターのレックス・フリッドマン氏、AIの先駆者ヨシュア・ベンジオ氏とスチュアート・ラッセル氏を含む1,000人以上のテクノロジーリーダーや研究者が署名した。この書簡の署名者の数は最終的に 33,000 人以上に膨れ上がりました。彼らは総称して「ドゥーマー」として知られるようになりました。これは、AI による潜在的な存続リスクに対する彼らの懸念を表す言葉です。
誰もが同意したわけではありません。 OpenAI CEOのサム・アルトマン氏は署名しなかった。ビル・ゲイツや他の多くの人々も同様だった。そうしない理由はさまざまですが、多くの人がAIによる潜在的な害について懸念を表明しました。これにより、AI が暴走して災害を引き起こす可能性について多くの議論が生まれました。 AI 分野の多くの人が自分たちのことについて話すのが流行になりました。 破滅の確率の評価、しばしば方程式として参照されます: p(doom)。それにもかかわらず、AI 開発の取り組みは中断されませんでした。
記録のために、 2023 年 6 月の私の p(運命) は 5% でした。低いように思えるかもしれないが、ゼロではなかった。主要な AI ラボは、新しいモデルをリリース前に厳格にテストし、その使用のために重要なガードレールを提供するという取り組みに誠実であると感じました。
AI の危険性を懸念する多くの観察者は、実存リスクを 5% より高く評価しており、さらに高く評価している人もいます。 AIの安全性研究者ローマン・ヤンポルスキー氏はAIの可能性を評価した 人類の99％以上の滅亡。そうは言っても、 勉強 選挙のかなり前、今年初めに発表され、2,700人以上のAI研究者の見解を代表する報告書では、「人類の絶滅など、非常に悪い結果についての予測中央値は5%」であることが示された。もし飛行機が墜落する可能性が5%あるとしたら、あなたは飛行機に乗りますか?これが、AI 研究者や政策立案者が直面するジレンマです。
もっと早く行かなければなりません
AI に関する懸念を公然と否定し、テクノロジーの大きな利点として認識していることを指摘する人もいます。これらには、Andrew Ng (Google Brain プロジェクトを設立し主導した) と Pedro Domingos (ワシントン大学のコンピュータ科学および工学の教授であり、「」の著者) が含まれます。マスターアルゴリズム”）。彼らは代わりに、AI が解決策の一部であると主張しました。 Ng 氏が提唱しているように、気候変動や将来のパンデミックなど、実存的な危機は確かに存在しており、AI はこれらに対処し、軽減する方法の一部となり得る。
ング氏は、AI開発は一時停止すべきではなく、むしろ加速すべきだと主張した。テクノロジーに対するこのユートピア的な見方は、総称して「効果的な加速主義者」または略して「e/acc」として知られる他の人々によっても同様です。彼らは、テクノロジー、特に AI が問題ではなく、世界の問題のすべてではないにしても、ほとんどの解決策であると主張しています。スタートアップアクセラレータ Y コンビネーター CEO の Garry Tan 氏は、シリコンバレーの他の著名なリーダーたちとともに、ビジョンへの一致を示すために、X のユーザー名に「e/acc」という用語を含めました。ニューヨーク・タイムズのケビン・ルース記者 本質を捉えた これらの加速主義者たちは、自分たちは「全ガソリン、ノーブレーキのアプローチ」をとっていると主張している。
サブスタック ニュースレター 数年前から、効果的な加速主義の基礎となる原則について説明しました。以下は、記事の最後に提供されている要約と、OpenAI CEO の Sam Altman のコメントです。
AI の加速が進む
2024 年の選挙結果は、加速主義的ビジョンが今後数年間の米国の AI 政策を形作る転換点とみなされる可能性があります。たとえば、次期大統領は最近、テクノロジー起業家でベンチャーキャピタリストのデイビッド・サックスを「AI皇帝」に任命した。
サックス氏は AI 規制を声高に批判し、市場主導型イノベーションの支持者であり、テクノロジー投資家としての経験をこの役割に活かしています。彼は AI 業界の主要な発言者の 1 人であり、AI について彼が述べたことの多くは、次期党の綱領が表明する加速主義的な観点と一致しています。
バイデン政権による2023年のAI大統領令を受けて、サックス氏は ツイートした: 「米国の政治的および財政的状況は絶望的に破綻していますが、私たちには国として比類のない資産が 1 つあります。それは、完全に自由で規制のないソフトウェア開発市場によって推進される AI の最先端のイノベーションです。それはちょうど終わったところだ。」サックス氏がAI政策にどれだけの影響力を与えるかはまだ分からないが、同氏の任命は業界の自主規制と急速なイノベーションを支持する政策への転換を示唆している。
選挙には結果が伴う
有権者のほとんどが、投票する際に AI 政策への影響をあまり考えなかったのではないかと思います。それにもかかわらず、非常に目に見える形で、選挙の結果として加速主義者が勝利し、AIの長期的リスクを軽減するために連邦政府によるより慎重なアプローチを主張する人々を潜在的に脇に追いやっている。
加速主義者たちが今後の道筋を描く中、リスクはこれ以上ないほど高くなります。この時代が前例のない進歩をもたらすのか、それとも予期せぬ大惨事が起こるのかはまだわかりません。 AI の開発が加速するにつれて、情報に基づいた公の議論と用心深い監視の必要性がこれまで以上に重要になっています。私たちがこの時代をどのように乗り越えていくかによって、技術の進歩だけでなく、私たち全体の未来も決まります。
連邦レベルでの行動の欠如に対する対抗策として、1 つまたは複数の州がさまざまな規制を採用する可能性がありますが、これはすでにある程度起こっています。 カリフォルニア そして コロラド。たとえば、カリフォルニア州の AI 安全法案は透明性要件に重点を置いているが、コロラド州は雇用慣行における AI 差別に対処し、州レベルのガバナンスのモデルを提供している。現在、Anthropic、Google、OpenAI、その他の AI モデル開発者による自主的なテストと自主的なガードレールに注目が集まっています。
要約すると、加速主義者の勝利は、AI イノベーションに対する制限が緩和されることを意味します。この速度の向上は確かにイノベーションの加速につながる可能性がありますが、予期せぬ結果が生じるリスクも高まります。現在、p(ドゥーム)を 10% に修正しています。あなたのものは何ですか？
Gary Grossman は、テクノロジー実践担当副社長です。 エデルマン Edelman AI Center of Excellence のグローバル リーダーでもあります。
データ意思決定者
VentureBeat コミュニティへようこそ!
DataDecisionMakers は、データ作業を行う技術者を含む専門家がデータ関連の洞察とイノベーションを共有できる場所です。
最先端のアイデアや最新情報、ベスト プラクティス、データとデータ テクノロジーの将来について読みたい場合は、DataDecisionMakers に参加してください。
検討することもできます 記事を寄稿する あなた自身のものです！
#予期せぬ結果 #米国の選挙結果は無謀な #開発の予兆