ジェフリー・ヒントンは、ai-corriere.itを規制するために戦いで教皇に目を向ける

«主要な人工知能の研究者のほとんどは、今後20年以内に私たちよりもはるかに賢い存在を作る可能性が高いと信じています。私の最大の懸念は、これらの非常に知的なデジタルビーニングが単に私たちに取って代わることです。彼らは私たちを必要としません。そして、彼らはデジタルなので、 彼らも不滅になります： つまり、特定の人工知能をすべての信念と記憶で復活させることが可能になることを意味します。現時点では、私たちはまだ何が起こるかを制御することができますが、人工知能の間に進化的な競争があれば、人間の種は過去の記憶に過ぎないと思います。»

ジェフリー・ヒントンはトロントの自宅にいます。彼の背後には大きな壁の本棚があり、彼はいつものように – 立っています。迷惑な背中の問題のために、彼らは彼を「座っていない男」と呼んでいます（しかし、実際には、短期間で、ある程度の予防策を講じることができます）。彼は、彼の白髪と甘い笑顔と一緒に、彼がひどい脅威から私たちを救うためにやってくる本や映画のそれらのキャラクターのように見せてくれる青いシャツを着ています。彼らは、彼は人工知能の3人の父親の一人であると言いますが、他の2人（ヨシュアベンギオとヤンレクン）は、異なる方法で、人工知能のオリンパスがあれば、ジェフヒントンがジュピターになると彼の学生でした。そして実際、 昨年、彼は勝ちました ノーベル物理学賞 （ジョンホップフィールドと） «人工ニューラルネットワークを使用した機械学習を可能にする基本的な発見と発明のため。»

簡単に言えば、彼がいなければ、私たちはGPTをチャットしません。私が彼を招待したとき、会う人工知能の専門家のグループに参加しました 教皇レオ14世 9月12日、彼は答えました：«私は無神論者です、あなたは彼らが私を望んでいると確信していますか？»しかし、その後、彼は明らかに、教皇が科学のゲームをプレイしたいことを望んでいるからです。 «それは大きな影響を与えるでしょう。» 科学コミュニティの控訴や請願よりもはるかに多く、2年で互いに追随しており、技術開発を遅くしながら、リスクと手に負えないという合理的な確実性をよりよく理解することを待っています。

アラームを最初に鳴らしました ヒントン 2023年4月末に彼自身 彼は突然グーグルを離れました、 彼が過去10年間働いていた会社は、人工知能のリスクについて自由に話すことができました。最後は、数ヶ月前、彼がノーベル賞を受賞した同僚と一緒に控訴に署名したとき、彼は再び彼でした ジョルジオ・パリシChat GPTを開発した会社であるAIに、透明性を高めるために尋ねるために（«密室で未来を決定しています»）。ここから始めましょう。

あなたはいくらかの共鳴を持ち、3000の権威ある署名を収集しましたが、それが本当の目的ではなかったと思います。

«この問題は、マスクとアルトマンの間に訴訟があるという事実によって複雑になっています。 Muskがこれを行っている間、同時にGrokを開発しているのは競争です。マスクは、オープンとの競争が少なくなりたいと思っています。これは私が信じていることですが、私は確信していませんが、私の意見では、「公的給付法人」としてOpenaiを維持したいという彼の動機は私たちと同じではありません。私たちの動機は、Openaiが倫理的な方法でAIを開発するために作成され、代わりにそのコミットメントを避けようとしていることです。 Ilya Sutskeverのような多くの研究者が去りました。安全に十分な重要性が与えられていないので、彼らはそれをしたと思います。控訴の目標は、カリフォルニア州司法長官に圧力をかけることでした。彼は、Openaiが営利企業になることを許可するかどうかを決定できます»。

だから、あなたは本当にサム・アルトマンからの応答を期待していませんでした。

«いいえ、もちろんそうではありません。»

控訴に対する本当の反応は、数日前、ホワイトハウスで、米国大統領がOpenai、Meta、Googleなどの大手ハイテク企業のすべてのCEOを召喚したときに来たと思います…

«大統領は10年間米国のAI規則を防止しようとしたが、彼は失敗した。個々の州は立法を続けることができます。»

大手ハイテク企業のリーダーに政治的権力を守っているのを見ることは、あなたにどのような影響を与えましたか？おそらく、歴史上初めて、私たちが絶対的な力の集中を目撃しているのでしょう。

«私の反応は悲しみの1つでした。これらの企業の指導者たちが何でも道徳的な姿勢をとろうとしないのを見てください。»

デジタル革命が届いたとき、夢は異なっていました。誰にとっても、より公平で、より公平で、より良い世界です。

«それがみんなの夢だったかどうかはわかりません。関係者のほとんどにとって、夢は金持ちになることだったと思います。しかし、彼らは、はい、彼らは金持ちになるだろうと自分自身に納得させることができましたが、同時に彼らはすべての人を助けます。そして、これは大部分がWebの場合です。日常生活だけを見ると、社会的結果を脇に置いた場合、ウェブは本当に人々を助けました。»

ティム・バーナーズ・リーを取りなさい：彼は金持ちにならず、すべての人にWebプロトコルを無料で提供しました。その後、何かがうまくいかなかった。私は言う：資本主義。
«私は資本主義に完全に反対しているわけではありません。多くの場合、基礎研究のための政府の自由な支援を受けて、新しいテクノロジーの生産に非常に効果的でした。よく規制されていれば、資本主義は問題ないと思います。金持ちになることで他の人を助ける限り、人々は金持ちになろうとすることは受け入れられます。問題は、富と権力がルールを排除するために使用され、人々を傷つける利益を作ることです。»

それは今何が起こっているのですか？
“はい。彼らにとって最も重要なことは、税金を払わないことです。そして、彼らはトランプを支持します。なぜなら、彼は税金を下げているからです。これは彼らの主な意欲です。しかし、彼らはまた、ビジネスを容易にするために人々を保護するルールを排除したいと考えています。それが彼らがトランプを支持する理由です。»

欧州連合が何をしているのかをどのように評価しますか？規制についてあまりにも多くのことを考えており、イノベーションについてはあまりにも少なすぎると言われています。ですから、私たちは人工知能のための競争に遅れをとっています。ご存知のように、欧州連合は重要な法律であるAI法を可決しました。あなたの意見では、それは良い出発点ですか、それともイノベーションの障害ですか？

«私はそれが許容可能な出発点だと思いますが、私は気に入らない部分があります：たとえば、これらの規則はいずれもAIの軍事的使用には当てはまらないという条項があります。これは、いくつかのヨーロッパ諸国が主要な武器生産者であり、致命的で自律的なシステムを開発したいためです。さらに、私が理解しているように、ヨーロッパの法律は、差別と偏見に特に重点を置いて始まり、他の脅威よりもこれらの側面について心配しています。そのため、プライバシーに重点を置いています。プライバシーは重要ですが、より深刻な脅威があります。»

彼は非常に敏感なポイントに触れました。シリコンバレーの会社は、軍事力と協力しないという考えで生まれました。 DeepMindがGoogleに売却されたとき、条件の1つは、AIが軍事目的で使用されないことでした。しかし、昨年1月、その状態は除去されました。現在、すべての人工知能会社は、米国国防総省に技術を提供しています。数日前、Googleはイスラエルとの重要な合意に署名し、軍隊に人工知能システムを提供しました。どう思いますか？

«政治科学者が使用する単純なルールがあります。人々が言うことを見ないでください。 Googleが軍事目的でAIを使用しないというコミットメントを排除したとき、私は非常に申し訳ありませんでした。それは失望でした。そして、彼らがトランプが到着したからといって、彼らが包含政策をキャンセルしたときも同じです。»

そして、私たちは教皇レオ14世に来ます。彼が就任するとすぐに、彼は人工知能に対処したいと言いました。この議論で彼はどのような役割を果たすことができると思いますか？
«まあ、ご存知のように、彼には約10億人のフォロワーがいます。彼がAIを規制することが重要であると言った場合、それは大統領に規則を課していないことに感謝している大手技術指導者の物語に対するカウンターウェイトでしょう。教皇は、カトリック以外でさえ、本当の政治的影響力を持っていると信じています。ダライ・ラマなどの多くの宗教指導者は、彼を道徳的な声と見なしています。すべての人がこのようなものであるわけではありませんが、これは彼の前任者もそうです。多くの非カトリック教徒にとって、彼の道徳的意見は賢明であり、間違いなく耳を傾けましたが、聞いていました。彼がAIを調節することが不可欠であると言うなら、それは影響を与えるでしょう。»

人工知能のリスクについて教皇に何を伝えたいですか？

«教皇にとって、長期的に人間の種の消失など、いわゆる実存的リスクに焦点を合わせることは役に立たないと信じています。そして、現在のリスクに集中する方が良いです。 AIは、大量の失業、民主主義の腐敗、より簡単で効果的なサイバー攻撃、および誰でもアクセス可能な致死ウイルスの作成につながる可能性があることを理解するために「存在」であると信じる必要はありません。それはすでに起こっています。したがって、これらの短期的なリスクについては、私が「悪い俳優によるリスク」と呼んでいるものについては、共通の基盤を見つけることができます。これらは、AIが「存在」であるかどうかの形而上学的な問題に入ることなく、宗教的または政治的指導者が理解できるリスクです»。

政府は、何が危機にatしているのかを完全に理解しておらず、これらの企業をあまりにも信頼しすぎているように見えることがあります。
«それはまさにそれです。政府には多くの場合、社内の専門家が十分ではなく、どこから来たのかコンサルタントに頼っていますか？大手ハイテク企業から。そのため、彼らは会社の声だけを聞くことになります。それはまるでウォール街の規制当局がすべて銀行家のように考える元銀行家であるかのようです。»

あなたは終末論的と見なされます。気分はどうですか？楽観的ですか、それとも悲観的ですか？

«現実的。私は両側を見る。しかし、歴史は、規則がなければ、権力が乱用されていることを教えてくれます。だから私たちが規制しなければ、それはひどく終わるだろうと思います。»

私たちが今覚えておくべき特定の教訓があると思いますか？ “はい。原子力エネルギーについて考えてみましょう。科学者が彼らの発見が原子爆弾につながる可能性があることに気づいたとき、彼らの多くは政府に警告しようとしました。しかし、最終的に、それをどのように使用するかを決定したのは軍隊でした。限界を設定したのは科学コミュニティではありませんでした。今日も同じリスクがあります。政府や企業のみが決定させた場合、AIは非常に危険な方法で使用されます。»

それは本当に人類の歴史の中で本当にユニークな瞬間ですか、それとも単なる別の進歩ですか？
«それはターニングポイントです。初めて、私たちは私たちよりも賢いエンティティを作成しています。これはこれまでに起こったことがありません。より強く、より速いが、より賢いマシンを作成しました。これによりすべてが変わります»。

それで、私たちは何ができますか？

«いくつかの孤立した声ではなく、グローバルな動きが必要です。科学コミュニティに幅広いコンセンサスを構築する必要があります。そうでなければ、政治家は私たちを無視します。»

90分後、インタビューは終了しました（これは高度に凝縮されたバージョンですが、教授によって承認されました）。個人的な質問の時間はまだあります。ジェフリー・ヒントンは例外的な家族から来ています。エベレストは、地図製作者であった彼の偉大な逃亡にちなんで名付けられました（そして彼のミドルネームもエベレストです）。別の親relativeは、コンピューターとデジタルシステムを支える数学的基盤であるブールロジックの父です。それだけでは不十分であるかのように、彼の父親はいつも彼のために非常に高いバーを設定しました。彼は言っていました、«あなたが私のように一生懸命働いているなら、あなたが私の年齢の2倍になるまでに、あなたは半分が良いかもしれません。»私は彼に尋ねます：

あなたはあなたの父があなたのために設定した目標を達成することができましたか？

（彼は微笑む）«間違いなく少なくとも半分。»

これは非常に凝縮されていますが、9月7日に開催されたはるかに長い会話のバージョンであるヒントン教授によって承認されています。フルバージョンはまもなくリリースされます。 ここでは、イタリア版。