ヘレン・トナー、元Openaiの範囲：「AIはもう前進しませんが、その影響はすでにインターネットのようなものです」|テクノロジー

ヘレン・トナーは、AIとの長く動揺した関係で（オーストラリア、メルボルンで生まれました）。彼の重要な瞬間はでした 2021年にOpenaiの取締役会への彼の参入、 むしろ、彼の出発がどのようになったかのために、すぐに サム・アルトマンの解雇に賛成票を投じます 2023年11月にエグゼクティブプレジデントとして。Tonerは、ChatGptの作成者での経験のこのインタビューで減少しました。 しかし、彼はすでに彼の意見を語っています： Altmanは理事会に正直ではなかった、と「TwitterでChatGptを学んだ」とトナーは言った。また、一部の幹部によると、マネージャーは会社に「有毒な雰囲気」を作成したと付け加えました。

その戦いはアルトマンの回復を終わらせました。現在、トナーは、ジョージタウン大学（ワシントン州ワシントン）の新興セキュリティおよびテクノロジーセンターから、その専門分野の2つである中国でのAIの開発が密接に続いています。彼はすでに議会でAIの未来に関する彼のビジョンについて証言しています。彼はこのビデオ通話インタビューで説明しています。

聞く。 なぜ多くのユーザー 彼らは魔法の特性を与えますか？

答え。 2つの理由があると思います。 1つは、非常に明白なことですが、AIが通常は間違いないサイエンスフィクションでAIについて学んだことです。時にはそれは良いこと、時には悪いこともありますが、あなたは常に正しい答えを持っていて、あなたはすべてをすることができます。フィクションにおける彼の役割は、妖精、神、または超自然的な存在の役割に似ています。もう1つの理由は、コンピューターについての考え方を変えなければならないことです。これまで、テクノロジーを使用したとき、それはうまく機能し、予想通りに機能しました。計算機が操作を行うことができる場合、彼は常にうまくやっています、彼は長い分裂の第三の数字で間違っていません。しかし、これらはそのようではありません。それらは決定論的ではなく、異なる応答を与え、完全なアルゴリズムに従いません。これは新しく、私たちは慣れていません。

P. AIはどこまで取得されますか？

R. 明確な目標があるかのように話す人がいます： 一般的な人工知能それは多くの人が人間として善と定義しています。しかし、AIは人と同じスキルを持つことはありません。 AIが私たちよりもはるかに優れているものや、それが悪いものがあるものがすでにあります。私たちは人間と同じくらい良い方法を達成しますが、それは違うままです。私たちは人間のダンスソースほど良いロボットを決して持っていないと思います スイング 他の人と一緒に即興演奏。そのようなものを構築することは意味がありません。しかし、私たちは非常に強力なシステムを持ち、戦略的または知的タスクで人間を克服することができます。私たちは明確な目的地があるかのように話しますが、未来がどのようなものになるかは本当にわかりません。

P. AIの主な関心事は何ですか？

R. さまざまなフレーバーがあります。最も可能性が高いと思われる悪いシナリオは、AIシステムにますます自律性を与えることを決めたラインに進むものであり、それらをますます社会に統合します。それが最初のステップです。 2つ目は、さまざまなものになる可能性があります。 AIが彼らの間で協力し始め、人間を制御不能にしてしまう可能性があります。私たちは楽しいと思われる世界に住んでいるかもしれませんが、背景には意味がありません。 ティクトクス金持ちのジャンクフードを食べるが、重要な人生を送ることなく。または、小さなグループの人々がAIと協力して、すべての力にとどまり、全体主義の世界に行き着くかもしれません。

P. あなたは本当にそれが起こる可能性があると思いますか？

R. 私は非常に、非常に悪いままにすることができると思います。そして、私は「私たち全員が死ぬ」よりもひどく悪くなる可能性のあるもののより広いファンがいると思います。最終的に私たちは皆死にますが、そのシナリオのみに焦点を当てるのは貧弱です。

P. 私たちはすでに研究を見ています AIが操作できる場所。 心配していますか？

R. それはあなたがあなたを納得させたいことに依存します。より現実的に見える説得は、AIに基づいた宗派のようなものであり、人々はAIが彼女の友人のようであり、彼らを見守っていて、彼らが従わなければならないような賢者です。人間のカルトの歴史は、見つけるのは非常に簡単であり、人々は非常に狂ったことをしていると言います。これまで、彼らは通常少数の人々を巻き込んでいます。確かにAIに基づいた宗派が表示されます。

P. 宗派をリードできるAIを作成することは平凡ではないようです。

R. 面白いでしょう。少なくとも、多くの人が持っているでしょう AIとの個人的な関係。それはすでに起こっています。

P. AIの中国はどの程度前進していますか？

R. それは魔法の部分に依存します。より高度なシステムでは、米国はまだ先を行っています。私は国家安全保障の問題に取り組んでおり、そこで知るのはもっと難しいと思います。陸軍内のAIがどのように適用されるかをさらに輸入します。私は米国が中国よりもうまくやっていると予想していますが、知るのは容易ではなく、より高度なモデルを構築する以外の問題の一種です。ボーダーモデルについて話すとき、測定することも困難です。中国が1〜2年遅れていると言うかどうかはわかりません。私たちが持っている最新のデータ Deepseek V3の発売です。 Deepseekは2つのモデルを取り出し、多くの人がR1に興奮しました。これは推論です。しかし、AIで働く人々の間では、他の人はV3がより印象的だと考えています。彼らは12月にそれを取り出し、おそらく米国の同等のモデルから6か月から9か月後に、約3か月または4か月の理由でした。しかし、それ以来、アメリカ企業は前進し続けており、中国はまだ対応していません。現在、彼らは6ヶ月から12か月遅れていますが、そのギャップは、チップの輸出制御の発効に伴い、拡張することができます。

P. どのくらいの期間をとるべきですか 軍隊？

R. aiはたくさんのことです。軍隊がそれを使用するのは正常です。すべての軍隊には、人的資源、財政を備えた巨大な行政部分があるため、企業として使用する世界のすべての意味があります。また、人間のアナリストがレビューできるよりもはるかに多くの資料があるときに画像を分析するために。彼らはまた、「予測メンテナンス」と呼ばれるものにそれを使用しようとしました。あなたは多くのヘリコプターを持っており、いつメンテナンスをするかを知りたいと思っています。エンジンが甘やかされる時期、またはピースを変更する必要があるときをより適切に予測できる場合。

P. そして 自律兵器？

R. 議論 AIと陸軍 彼らはその主題に集中しすぎています。そして、それはほんの少しです。自律的な武器のみに焦点を当てることは、最も成功していません。国際人道法には、すでに存在する戦争の法則に焦点を当てることがより重要であると思われます。それは戦闘員と民間人を区別していますか？あなたは攻撃に比例して応答されていますか？ AIと戦争が非常にひどく出てくるシナリオを想像するとき、それは多くの場合、たとえば、民間人が戦闘機の代わりに攻撃されているからです。そして、それは国際法に従ってすでに違法です。

P. AIビジネスモデルは常にサブスクリプションによってですか？

R. 大金は消費者ではなく、企業から来ると思います。単なるものではなく、すべてにサービスを提供するテクノロジーです チャットボット 人々がポケットに入れて運ぶのは、あらゆる種類の経済生産性と革新にとって非常に強力なツールになります。ですから、ビジネス側からの収入は非常に大きくなると思います。

P. AIがもう前進しない場合、すでに経済を変える能力があります？

R. はい。 AIなどの汎用技術は、経済に統合するのに数十年かかります。 AIの開発が停止したとしても、それが多くの人が予測するほど巨大な変換であるかどうかはわかりませんが、少なくともインターネットと同じくらい素晴らしいでしょう。インターネットを持っていないという移行には、数十年かかりました。私たちは今やめましたが、AIを健康、教育、ビジネスプロセス、法律、金融に統合するために、まだやるべきことがたくさんあります。

P. そして、私たちはすでにAIができることの中で屋根に触れましたか？

R. 私はそれに賭けません。 AIでの過去15年間の歴史は、AIの構築方法を完全に変える大きな革新ではなく、蓄積する小規模または中サイズの改善と、一緒に重要な進歩をもたらします。今、私たちはこれらの素晴らしい言語モデルを持っています チャットボット私たちはすでに慣れてきました。しかし、企業は2つの主要な方向に進んでいます。 1つ、 推論モデル：より複雑な問題を解決できるように、段階的に考えるように彼らに教えます。そして2つ、エージェント：あなたのために物事をし、決定を下し、生産的になります。今後25年間、これらの分野で非常に大きな進歩が見られます。

P. どの方向に予測することは不可能です。

R. AIは、社会の政治経済の機能を変えます。今、私たちは珍しい瞬間にいます。人々がコントロールしている多くの民主的な国があります。しかし、それは割れているようです。 IAは、たとえば労働市場での権力のバランスを再構成します。労働者が攻撃した場合、労働者はどのくらいの力を行いますか？特定の種類のAIがある場合、軍隊には何人の兵士が必要ですか？おそらく、AIとともに作業力は低下します。人々が基本的なニーズをカバーし、AIにアクセスできる世界で終わることができれば、それは素晴らしい世界になる可能性があります。しかし、私はまた、人類の基本的な状態が、歴史のほとんどの間、彼が力を持っていることだったことを心配しています。そして、それを悪化させない人。