メラニー・ミッチェル: 「人工知能は、子供のように世界を体験するロボットに組み込まれたときに飛躍するでしょう」 | メラニー・ミッチェルテクノロジー

私たちは人工知能 (AI) の可能性を誇張していませんか? 彼はどのくらい賢いのですか? いつか人類に届くのでしょうか？ これらは、メラニー・ミッチェルさん（ロサンゼルス、55歳）が著書の中で尋ねた質問の一部です。 人工知能。 考える存在のためのガイド、キャプテン・スイングが今週月曜日にスペイン語で出版します。 彼の返答は力強いです：我々はどんなに努力しても超知性を生み出すにはほど遠いです 一部の企業は反対のことを言っています。 そして根本的な理由の 1 つは、機械は私たちと違って推論できないということです。 彼らは、ほとんどどんな仕事でも他の誰よりも上手にこなせますが、世界についての理解力は 1 歳児よりも劣っています。

ミッチェル氏は、ChatGPT のようなツールが 2 年前に登場して以来、公の場で議論されているテクノロジーである AI の現象を評価するための基本的なコンテキストを提供します。 政治家、実業家、学者 最近警告した これらのシステムの危険性彼らは、生成できる精巧なテキストと、生成できる超現実的な画像やビデオで世界を驚かせてきました。

サンタフェ研究所の複雑性教授であるデイビス氏は、ポートランド州立大学の教授でもあり、著書の中で最先端の AI システムがどのように機能するかを説明し、人間の推論と対比させています。 結論: 環境に関する直感や知識などの重要な側面は、現時点ではどのマシンでも達成できません。 ミッチェルさんはニューメキシコ州サンタフェの自宅からビデオ通話でEL PAÍSに参加。

聞く。 AI は今日何ができるのでしょうか?

答え。 数年前、アプリケーションを含む生成 AI の登場により、その機能は大きく飛躍しました。 ChatGPT や Dall-E など。 しかし、これらのシステムは、そう見えるかもしれませんが、世界について私たちと同じタイプの理解を持っていません。 だから時々おかしなことをしたり、でっちあげたりすることもあります。 これらには信頼性が欠けており、予測が難しい一連の制限があります。 したがって、これらのシステムは非常に便利であり、私も常に使用していますが、それらに対する信頼については注意する必要があると思います。 特に人間の監督がない場合はなおさらです。

P. なぜなら？

R. 彼らは重大な間違いを犯す可能性があります。 わかりやすい例は自動運転車です。 それらがまだ私たちに普及していない理由の 1 つは、歩行者や障害物の識別に失敗するなど、人間がめったに行わないような場所で失敗することです。 別の例は、自動顔認識システムです。 この機械は画像内の顔を検出するのには非常に優れていますが、肌の色が濃い人や女性の識別には劣っていることがわかっています。 ChatGPT では、彼らが発言をでっち上げているケースを数え切れないほど見てきました。

P. 生成 AI のブームはこの分野の発展に役立つのでしょうか、それとも害を与えるのでしょうか?

R. ある意味、これは 誇大宣伝 それは人々の期待を高め、それが失望を引き起こします。 AIの歴史の中で、それは何度も起こってきました。 1950 年代と 1960 年代には、数年以内に人間の知能を備えた機械が登場するだろうと言われました。 そんなことは起こらなかった。 いわゆる AI の冬が到来しました。研究資金は枯渇し、企業は倒産しました。 私たちは今、大きな期待の時期を迎えています。 問題は、楽観主義者の予測が本当に現実となる時が来るのか、それとも再び大きな失望に陥ることになるのか、ということだ。 予測するのは難しいです。

P. ちょうど3年前、 未来はメタバースになるだろう。 今ではもう誰もそのことについて話しません。 AIでも同様のことが起こり得ると思いますか?

R. それは大きな技術革新では常に起こります。ある種の大きな誇大宣伝バブルがあり、期待が満たされずに人々が失望し、そして最終的にその技術が頂点に立つのです。 この開発は役に立つことが判明しましたが、人々が期待したほど素晴らしいものではありませんでした。 それがAIでも起こる可能性が高い。

P. あなたは、AI システムには意味の理解や常識が欠けているため、真にインテリジェントになることはできないと主張しています。 それはいつか変わると思いますか？

R. それが可能だ。 私たちがそのような機械を開発できない理由はありません。 問題は、どうやってそこに到達するかということです。 ChatGPT は、インターネット上のすべてのビデオや画像だけでなく、利用可能なすべてのデジタル書籍やテキストを使用してトレーニングされています。 しかし、常識や知識に関係しており、言語やデータにコード化されていないものもあります。それらは経験を通じてのみ把握することができます。 おそらく機械は、私たちと同じように世界を経験するまで、より人間らしく考えることができないでしょう。 これについては、AI の分野で多くの議論が行われています。 機械が受動的に言語を訓練されるだけでなく、子供のように能動的に世界を体験するようになったときに、大きな飛躍が起こるのではないかと私は考えています。

AI の歴史は、生命と知性についての私たちの直観がしばしば間違っていること、実際にはすべてが私たちが思っているよりもはるかに複雑であることを示しています。

P. ロボット形態時。

R. はい。 ロボットに AI を組み込むと、子供と同じような教育や発達が受けられる可能性があります。 これは、コンピューティングの父の一人であるアラン・チューリングが 1950 年代にすでに推測していたものです。 その考えは今ではもっと理にかなっています。

P. あなたは本の中で、AI がどのように機能するか、そしてそれが人間の推論方法とどれほど関係がないかについて説明しています。 プロセスがその機能を果たすかどうかは重要ですか?

R. それはシステムを何に使用したいかによって異なります。 私の車の GPS は、行きたい場所への行き帰りのルートを見つけてくれます。 彼は道路や交通の概念を理解していませんが、良い仕事をします。 問題は、システムが人間の世界とより一般的に対話することを本当に望んでいるかどうかです。 彼らはそれをどこまで理解する必要があるでしょうか？ ある瞬間に自動運転車が急ブレーキを踏んだのですが、ドライバーはその理由がわからなかったというケースがありました。 一時停止の標識が書かれた広告が貼られた看板があることが分かりました。 そのような間違いを避けることができますか？ あなたが私たちと同じように世界を理解している場合にのみ。

P. AIはどこまでできると思いますか?

R. 人間と同等の知能を備えた機械を開発できない理由はわかりません。 しかし、そこに到達するのは非常に難しいでしょう、私たちはそれに近づいていません。 1970 年代には、機械がグランドマスターのレベルでチェスをプレイできるようになれば、人間の知能と同等になると考えられていました。 そうではないことが判明しました。 そして、テキストを翻訳したり、会話を維持したりできるようになったときと言われました。 それも起こっていません。 AI の歴史全体は、生命と知性についての私たちの直観がしばしば間違っていること、実際にはすべてが私たちが思っているよりもはるかに複雑であることを示しています。 そしてそれは今後も続くと思います。 賢いとはどういうことなのか、私たちはこれからもっと学んでいきます。

AI システムが混乱して私たちを滅ぼす可能性があるというのは、少なくとも、非常にありそうもない、推測的な主張です。

P. そうすればそれだけの価値があったでしょう。

R. AI の目的の 1 つは、インテリジェンスが何を意味するのかを理解できるようにすることです。 そして、それをマシンに実装しようとすると、実際には私たちが考慮していなかった多くの要素が含まれていることに気づくことがよくあります。

P. AIの先駆者の中には、 ジェフリー・ヒントンと一緒、このテクノロジーは制御が困難になる可能性があると考えています。 どう思いますか？

R. AI にはさまざまな危険が伴います。 生産に使用できます 誤った情報と ディープフェイク。 顔認識の場合に述べたようなアルゴリズムのバイアスが存在します。 ヒントンらはさらに進んで、これらのシステムが混乱して私たちを滅ぼす可能性があると主張している。 この主張は、控えめに言っても、非常にありそうもないことであり、推測にすぎません。 もし私たちが超知能システムを開発したとしても、それは人間全員を殺すのは良くないなど、私たちの価値観を気にしないだろうと私は疑っています。 人類に対する存続の脅威というこの劇的なアイデアにあまりにも焦点を当ててしまうと、現時点で本当に重要なことから注意が逸れてしまうだけです。

P. 私たちは社会として、今日直面しているこれらの脅威に適切に対処できていると思いますか?

R. はい、ただし、法律がイノベーションに追いつくのは常に困難です。 EUは最初の一歩を踏み出しました 欧州AI規制。 私たちが米国で見ているものの一つは、 著作権訴訟。 これらのシステムはすべて、膨大な量のテキストと画像を使用してトレーニングされています。 使用料を支払っていない場合、著作権侵害に直面することになりますか? この技術が開発されるずっと前に制定されたものであるため、この法律は不明確です。 これがどのように解決されるか見てみましょう。

神経科学者は脳の仕組みを理解しておらず、見ているものを理解しようと実験を行っています。 それが今、生成 AI で起こっていることです

P. 最近見た中で最も印象的な AI アプリケーションは何ですか?

R. 私が最も興奮しているのは、これらのシステムを科学的問題に応用することです。 たとえば、DeepMind は、AI を使用してタンパク質の構造を予測することに取り組んでいます。 新素材や新薬の開発にも活用されています。 私たちは科学の一種の新しい時代にいます。おそらくコンピューターの登場によって始まった科学と同じくらい重要です。

P. 同氏は本の中で、最先端のAI技術であるディープラーニングシステムを調整する人たちは、自分が何をしているのかを正確に知らずにマシンのパラメータを調整するため、科学者というより錬金術師のように見えると述べている。

R. この本を書いてすぐに、人々はエンジニアリングエンジニアについて話し始めました。 プロンプト [las instrucciones que se le da las herramientas de IA generativa]。 あなたの仕事は、システムのパフォーマンスを可能な限り向上させることです。 その仕事で大金を稼いでいる人々がいることが分かりました。 そしてそれは純粋な錬金術であり、その背後に科学はありません。 ただ物事を試してみるということです。 機能するものと機能しないものがありますが、その理由はわかりません。

P. 人類史上最も洗練されたテクノロジーの 1 つを最適化しようとする人々が、盲目的にそれを行うのは皮肉なことです。

R. これらのシステムは、ある意味、ブラックボックスです。 それらは、 ソフトウェア 非常に複雑なものは、動作するように明示的にプログラムされていないものの、トレーニングされ、データから学習されており、なぜそのように動作するのか誰も理解できません。 神経科学者も脳の仕組みを理解していないため、目に見えるものを理解しようと実験を行っています。 それが今、生成型 AI で起こっていることです。

フォローできます EL PAÍS テクノロジー で フェイスブック y バツ または、ここからサインアップして私たちのメッセージを受け取りましょう ニュースレターセマナル。

_