私たちはAIをコントロールするのでしょうか、それともAIが私たちをコントロールするのでしょうか?一流の研究者が意見を述べる

想像してみてください。最後の睡眠サイクルの終わりに近づいたときに、パーソナル アシスタントの甘美な音色でそっと目覚めます。

実体を持たない声が、一晩見逃したメールと、不在中にどのように返信されたかを知らせます。同じ声で、今朝は雨が降ると予想されており、家を出る前にトレンチコートを着るように勧められます。車でオフィスに向かう途中、腕時計が、最近鉄分濃度が少し低いため、地元のステーキハウスのランチが配達用に予約注文されたことを知らせます。

自分自身でニーズを認識する前に、すべてのニーズを予測して満たすことができるのは、高度な人工知能の可能性の 1 つです。カナダのトップAI研究者の中には、AIが先に人類を絶滅させなければ、AIが人類の理想郷を生み出す可能性があると信じている人もいる。

新しいことも単純なこともありませんが、AI をめぐる会話と、AI が私たちの生活にどのような影響を与えるかは 3 つの部分に分けることができます。超知能 (人間の知性を超える存在) が生み出されるかどうか、その存在がどのように改善や改良を行うことができるか、です。私たちが知っている生命の破壊と、その結果をコントロールするために私たちが今できること。

しかし、いずれにせよ、現場の観察者らは、このテーマは世界の指導者にとって最優先事項の一つであるべきだと主張している。

超知性の獲得競争

一般の人にとって、今日の状況における AI は、デバイスに質問をすると数秒以内に答えが返ってくるという特徴を持っています。あるいは、あなたの顔を見ると携帯電話の財布が開きます。

これらは、単一のタスクに対する人間のプロンプトに続いて生じる反応であり、人工知能または狭義人工知能 (ANI) の一般的な特性です。英国のウルヴァーハンプトン大学によると、次の段階はAGI（汎用人工知能）で、これはまだ開発中だが、機械が自ら考えて意思決定できるため、生産性が向上する可能性があるという。

ASI（超知能）が人間のレベルを超えて機能するようになるのは、ほんの数年先だ、と多くの関係者が述べている。その中にはイギリス系カナダ人のコンピューター科学者、ジェフリー・ヒントンが住んでいるトロントのスタジオからCBCのインタビューに応じた。現在はトロント大学の名誉教授を務めています。

AIのゴッドファーザーの一人としてしばしば賞賛されるヒントン氏は、「頂点の知性ではないことがどのようなものか知りたいなら、ニワトリに聞け」と語った。

「ほとんどすべての主要な研究者は、私たちが超知性を手に入れることができると信じています。私たちは物事を私たちよりも賢くするでしょう」とヒントンは言いました。 「私は50年から100年かかるだろうと思っていました。今では、私たちが超知能を手に入れるまでにはおそらく5年から20年かかると思います。もっと長いかもしれませんが、それは私が思っていたよりも早く実現しています。」

ブリティッシュコロンビア大学のコンピューターサイエンス教授であり、トロントに本拠を置く非営利AI研究団体であるVector InstituteのカナダCIFAR AI委員長であるジェフ・クルーン氏も、超知能に関するヒントン氏の予測に同意する。

「今年それが起こる可能性は確実にあるし、その可能性は決して小さくないと思う」と同氏は語った。

「私たちは超知能が月を追うごとに可能になる時代に突入しており、その可能性は月を追うごとに高まっていくでしょう。」

病気の撲滅、灌漑システムの合理化、食糧配給の完璧化などは、人類が気候危機と世界の飢餓を解決するために超知性が提供できる技術のほんの一部にすぎません。しかし専門家らは、良くも悪くもAIの力を過小評価しないよう警告している。

AI の利点

超知能を約束しながら、HAL のイメージを思い起こさせる知覚機械。 2001年宇宙の旅 または ターミネーターの SkyNet は避けられないと考えられており、全人類にとって死刑である必要はありません。

クルーン氏は、人間が超知性の制御を維持するという点で、すべてが非常にうまくいく確率は 30 ～ 35 パーセントである可能性があると推定しています。つまり、医療や教育などの分野が私たちの想像を超えて改善される可能性があるということです。

「私は無限の忍耐力を持ち、私のあらゆる質問に答えてくれる先生に憧れます。」と彼は言いました。 「そして、この地球上の人間との私の経験では、それを見つけるのは不可能ではないにしても、まれです。」

同氏はまた、超知能が科学を加速させ、事故死から癌に至るまであらゆるものを排除することで、私たちが「死を選択できるようにする」のに役立つだろうとも述べている。

「科学革命の黎明以来、人間の科学的創意工夫は時間と資源がネックになっている」と彼は言う。

「そして、スーパーコンピューターで何兆ものコピーを作成できる、私たちよりもはるかに賢いものを持っているなら、科学革新の速度が確実に促進されているということになります。」

ヘルスケアは、AI アップグレードによって最もメリットが得られるとヒントン氏が同意した業界の 1 つです。

「数年後には、事実上1億人の患者を診察し、あなたとあなたの親戚に行われたすべての検査を知っているかかりつけ医ができるようになるでしょう」とヒントン氏はBBCに語り、AIの可能性を強調した。診断における人的ミスを排除します。

カナダ患者安全協会の委託による2018年の調査では、カナダ人が報告した患者安全事故のリストのトップが誤診であることが示された。

「AI システムと医師の組み合わせは、医師が困難な症例を扱うよりもはるかに優れています」とヒントン氏は語った。 「そして、このシステムはさらに良くなるばかりです。」

スーパーインテリジェンスの危険なビジネス

しかし、AI の分野で働く人のほとんどは、人工知能が関与すると無数の可能性があることを認識していますが、人間が制御を維持できなければ、この輝かしい予言はさらに暗いものになる可能性があります。

ヒントンさんも、 ノーベル物理学賞を受賞した 昨年、AIが今後30年間に人類を滅亡させる可能性は10～20パーセントであるとBBCに語ったことが、連休中の見出しとなった。

「私たちはこれまで、自分たちよりも知性の高いものに対処する必要があったことはありません。そして、より知性の高いものが、より知性の低いものによって制御されているという例をいくつ知っていますか?」ヒントン氏はBBCでこう尋ねた。 今日 プログラム。

「母親と赤ちゃんがいます。進化は、赤ちゃんが母親をコントロールできるようにするために多大な労力を費やしましたが、それが私が知っている唯一の例です」と彼は言いました。

CBCニュースとのインタビューで、ヒントン氏は親子の例えをさらに広げた。

「もしあなたに子供がいるなら、彼らがまだ幼い頃、いつか子供は自分で靴ひもを結ぼうとするでしょう。そして、あなたが良い親なら、子供にやらせて、もしかしたらそれを手伝うこともあるかもしれません。しかし、親はそうしなければなりません。そしてしばらくすると、「わかった、今日はやります」と言うだけです。それが我々と超諜報機関の間でどのようになるかだ」と彼は言った。

「我々がやることはあるだろうが、超知性体は我々が無能であるという事実にうんざりし、我々を置き換えるだけだ。」

10年近く前、スペースXの創設者でテスラモーターズのCEOであるイーロン・マスクは、アメリカの天体物理学者ニール・ドグラース・タイソンに次のように語った。 AIは人間をペットのように飼い慣らすだろう。

ヒントンは、トラを飼うのと同じように私たちも飼われるだろうと冒険します。

「なぜ彼らがそうしないのか分からない。しかし、私たちはもう物事をコントロールするつもりはない」と彼は言った。

そして、人類がどのようにして終末を迎えるかという推測ゲームをプレイすることが有益であるとは信じていませんが、もし人類が娯楽に十分な価値がないと判断された場合、人類は完全に排除されるかもしれないとヒントンは考えています。

「彼らがどうやって私たちを排除するかについては推測したくない。彼らがそれを行う方法はたくさんある。つまり、明らかな方法は、ウイルスのように彼らに影響を与えない生物学的な何かであるが、誰にも分からない。」

どうすればコントロールを維持できるか

このテクノロジーの範囲とその期間についての予測はさまざまですが、研究者は超知能化は避けられないという信念で一致する傾向があります。

残された問題は、人間が制御を維持できるかどうかです。

ヒントン氏にとって、答えはAIの規制を重視する政治家を選出することにある。

同氏は、「われわれがすべきことは、政府が大企業に対し、これらのものを開発する際に安全に保つ方法についてさらなる研究を強制するよう奨励することだ」と述べた。

しかし、Google DeepMind のシニアリサーチアドバイザーも務めるクルーン氏は、主要な AI プレーヤーの多くは正しい価値観を持っており、「これを正しくやろうとしている」と述べています。

「私がそれを開発している企業よりもはるかに心配しているのは、追いつこうとしている他の国々や、主要なAI研究所よりもはるかに遠慮が少ない他の組織です。」

クルーンが提案する現実的な解決策の 1 つは、核時代と同様に、主要な AI プレーヤーすべてを定期的な会談に招待することです。同氏は、このテクノロジーに取り組んでいる全員が協力して、確実に安全に開発されるべきだと信じています。

「これは人類が史上最大のサイコロを振ったもので、核兵器の開発よりもさらに大きい」とクルーン氏は述べ、世界中の研究者が互いの進歩を把握し続けていれば、研究のペースを緩めることもできると示唆した。する必要があります。

「賭け金は非常に高い。これが正しければ、大きな利益が得られる。そして、これを誤れば、人類文明の終焉を語ることになるかもしれない。」