マッシモ・ガッジ著
Open AI の CEO はさらなるルールを要求しましたが、その後考えを変えました。ノーベル賞受賞者であり「AIのゴッドファーザー」であるヒントン氏は、道徳的な問題を理由にすでにGoogleを辞めている
ダリオ・アモデイの手にかかればこの数時間で爆発するもの それは、ますます強力になる人工知能の作成者たちが長年にわたって生きてきた矛盾です。コントロールが難しい：一方で、彼らは知識の最前線を可能な限り押し広げたいという願望に燃えているが、他方では、 仕事だけでなく戦場でも人の代わりになる広範な方法で市民を追跡しスパイするため、そしておそらくは、市民を作成した人々の制御から逃れるためでもあります。
ロバート・オッペンハイマーを思い出させる熱意と苦しみ そして他の科学者 原子爆弾を作ったのは誰ですか：科学的な喜び、倫理的な疑念、軍監督者との関係は最初は仲間意識でしたが、その後はますます対立しました。
実際にはあります 大きな違い。 歴史的 （ロスアラモスでは、戦争による緊急性と、第三帝国が最初に核兵器に到達するのではないかという恐怖のため、人々は猛スピードで走った） と材料：原子爆弾は、爆発がどれほど巨大であっても、単一の特定のリスクを伴います。そしてその拡散は、濃縮ウラン、遠心分離機、プルトニウムなどの物理的で有形の生産物を監視することによって制御できます。
ポッドキャストでさらに詳しく
AIは、 その代わり、 最も多様な種類の暴力的使用に使用できます。：ドローンの群れを目標に向けて誘導し、細菌兵器を製造し、電気ネットワークや通信ネットワークを麻痺させ、人間の介入なしに攻撃できるパワー戦士ロボットを開発します。 すでに弱体化している民主主義にさらなる打撃を与えるような用途も考えられる: 特にシステム ビッグデータと顔認識に基づく大規模監視 住民、何をするか、どこへ行くかを登録するためのツールです。
これは SF ではありません。中国を見てください。 そしてその社会的評価システム。そして、たとえ AI の破壊的な使用を防ぐための合意に達したとしても、コンプライアンスを検証することはほとんど不可能です。物理的なものや検証可能なものは何もなく、ただソフトウェアの明白な一貫性だけです。
全てを知るアモデイしかし、彼が非難する実存的リスクに対するルールとガードレールを政府に求め続けながら、ますます強力なインテリジェンスの開発によって加速し続けている （そして大規模な雇用破壊のそれも）ドストエフスキー、ピランデッロ、シェイクスピアの作品によく似合うキャラクターにますます似てきています。 自分が構築しているテクノロジーから世界を救いたいと考えている科学者。
彼の伝記で説明できる矛盾：テクノロジーは可能な限り最大のスピードで進歩しなければならないという信念は、稀な病気によって亡くなり、死後すぐに治るようになった父親の死によって確固たるものとなった。もう少し早く捜索できれば彼は救われただろう。 したがって、アモデイはスピードを上げますが、ルールも要求します社会と政治が来るべき革命の範囲を理解し、間に合うように準備を整えることを望んでいる。そして、Anthropic のシステムに組み込まれるセキュリティ システムを研究しています。
こうした倫理的問題を自問しているのはアモデイ氏だけではない。 ジョシュア・ベンジオからスチュアート・ラッセルまで、すでにアクセルから足を下ろしている科学者がいます。最もよく知られているケース: ノーベル賞受賞者ジェフリー・ヒントン定義済み 「人工知能のゴッドファーザー」 彼は人類がさらされているリスクを自由に非難できるようGoogle検索を辞めた。シリコンバレーの起業家や産業界の天才たちもこうした危険性を認識しており、過去に非難してきた。しかしその後、優れた利益と権力を獲得したいという欲求が優勢になりました。
これは、何年も前に殺人ロボットの危険性を最初に非難したイーロン・マスクにも当てはまります。 そして、今日、最初にアモデイを「廃棄」しました。彼は、Anthropic に取って代わることを望んで、自分の xAI を国防総省に提供しました。 しかし、鍵となる人物は OpenAI の Sam Altman です。 ChatGPT を立ち上げたとき、彼は世界を興奮させたテクノロジーのルールを求めて世界中を回りましたが、恐ろしい破壊ツールにもなる可能性があると警告しました。彼も今日、トランプ政権のテクノロジーの躍動の最前列にいる一方で、これらの警告をささやき声に抑えている。
こうしてアモデイの声は強力だが孤立した声となった 世界で最も強力な軍事組織に挑戦する 彼の会社にとって非常に重く、おそらく致命的な報復を受ける危険がある。 彼は悪夢のようなシナリオに陥る。国家安全保障を損なったとして人々から非難され、 一部の平和主義者の旗実際、彼はすでに自分の技術を軍に提供している。それは、トランプの同盟者で軍事および秘密情報サービスの技術の大規模供給者であるピーター・ティールとアレックス・カープのパランティア・ソフトウェアに組み込まれている。
アモデイはこう確信する。 自律型兵器は避けられない。現在のテクノロジーはまだ未成熟であり、保護策がありません。
彼の懸念には十分な根拠があるが、陸軍大臣は 彼を攻撃するピート・ヘグセスが法的には優位にあるようだ：倫理的理由かどうかにかかわらず、誰も反対できない中国との技術戦争および軍事戦争におけるフリーハンドを要求します。そして、「法律で許可されているすべての用途に」Anthropic テクノロジーを使用する権利を主張しています。アモデイはこう答える 法的には無関係だが、私たち全員が反省しなければならない話題である: 「監視や自律型兵器の開発のための AI の使用が合法なのは、法律が前例のない強力な新しいツールの現実に適応していないという理由だけです。」
集団監視に関しては、 Amodei のテクノロジーを使用すると、Palantir は洞察力に富んだ市民ファイリング システムを作成できます。それが起こるのは当然ではありませんが、雰囲気を理解するには、CEO のカープの言葉を聞いてください。「ヨーロッパでは、あなたが私に怒鳴るのが好きです。」実際に私に感謝すべきです。数え切れないほどのテロ攻撃で私とあなたの間に介入してきた人がいないとしたら、それは私たちのテクノロジーのおかげです。もし私たちが彼らを止めていなかったら、今日皆さんは全く異なる政治的現実の中で生きていたでしょう。」
2026 年 2 月 27 日 (2026 年 2 月 28 日 | 09:05 に変更)
1772267369
#アモデイアルトマンティールマスクテック界の支配者たちの熱意と苦悩倫理への疑問から野放図なビジネスまで
2026-02-28 08:05:00