AIのパイオニアは、世界への脅威は気候変動よりも「緊急」である可能性があると述べています

［ロンドン ５日 ロイター］ – 人工知能のパイオニアであるジェフリー・ヒントン氏は、金曜日のロイターとのインタビューで、人工知能は気候変動よりも「差し迫った」脅威を人類にもたらす可能性があると語った。

「AI のゴッドファーザー」の 1 人として広く知られているジェフリー ヒントンは、最近、 アルファベットをやめる (GOOGL.O) 同社で 10 年間勤務した後、元雇用主に影響を与えることなく、テクノロジーのリスクについて発言したいと語った。

ヒントンの仕事は、現代の AI システムの開発に不可欠であると考えられています。 1986 年には、AI テクノロジの基礎となるニューラル ネットワークの開発における画期的な論文である、「逆伝播エラーによる表現の学習」を共同執筆しました。 2018 年には、研究のブレークスルーが認められてチューリング賞を受賞しました。

しかし、彼は現在、機械が人間よりも優れた知能を達成し、地球を支配した場合に AI によってもたらされる可能性のある脅威について懸念を公に支持する、ますます多くの技術リーダーの 1 人となっています。

「私は気候変動の価値を下げたくありません。『気候変動について心配する必要はありません』とは言いたくありません」 それも大きなリスクだ」とヒントン氏は語った。 「しかし、これはより緊急になる可能性があると思います。」

彼は次のように付け加えた。「気候変動に関して、何をすべきかを推奨するのは非常に簡単です。炭素の燃焼をやめるだけです。そうすれば、最終的にはうまくいくでしょう。このため、何をすべきかはまったく明確ではありません。」

マイクロソフトが支援する (MSFT.O) OpenAI は、11 月に AI を利用したチャットボット ChatGPT を一般に公開したときに、技術的な軍拡競争で最初のピストルを発射しました。 それはすぐに 史上最も急成長しているアプリ、2 か月で月間ユーザー数 1 億人に到達。

4 月、Twitter の CEO であるイーロン マスクは、数千人の署名者に加わって、 半年休止 最近発売された OpenAI の GPT-4 よりも強力なシステムの開発において。

署名者には、Stability AI の CEO である Emad Mostaque、Alphabet が所有する DeepMind の研究者、仲間の AI パイオニアである Yoshua Bengio と Stuart Russell が含まれます。

ヒントンは、AI が人類の存続を脅かす可能性があるという署名者の懸念を共有していますが、研究の一時停止には同意しませんでした。

「それはまったく非現実的です」と彼は言いました。 「私は、これは存続に関わるリスクであると考える陣営に属しています。それは十分に近いので、私たちは今非常に懸命に取り組み、それに対して何ができるかを理解するために多くのリソースを投入する必要があります。」

欧州連合では、議員の委員会がマスクが支援する書簡に対応し、米国のジョー・バイデン大統領に対し、欧州委員会のウルズラ・フォン・デア・ライエン委員長と共にテクノロジーの将来の方向性に関する世界サミットを開催するよう求めた。

先週、委員会は画期的な一連の提案に合意した ジェネレーティブ AI をターゲットにするこれにより、OpenAI などの企業は、モデルのトレーニングに使用された著作物を開示することを余儀なくされます。

その間、 バイデン氏が会談 Alphabet の CEO である Sundar Pichai や OpenAI の CEO である Sam Altman を含む多くの AI 企業のリーダーとホワイトハウスで会談し、企業が自社のシステムについてより透明性を高める必要性について「率直で建設的な議論」を行うことを約束しました。

「テクノロジーのリーダーはそれを最もよく理解しており、政治家が関与する必要があります」とヒントンは言いました。 「それは私たち全員に影響を与えるので、私たち全員がそれについて考えなければなりません。」

マーティン・コールターによる報告、ディーパ・バビントンによる編集

私たちの基準: トムソン・ロイターの信頼原則。