AIの専門家であるRamonLópezdeMántaras：「意識と知性は生き物にのみ与えられる」|テクノロジー

ラモン・ロペス・デ・マンタラス（サン・ビケンソ・デ・カステレット、バルセロナ、72歳）は、彼がに捧げられていたと言える 人工知能（AI） それがファッショナブルになる前。実際、それは50年前のことであり、それがパトリオスの規律の先駆者の1つになっています。逸話として、いつ Yann Lecun、メタの現在のチーフサイエンティスト そして、深い学習の親の一人と見なされました（機械学習）、彼はパリのソルボンヌ大学で博士論文を行っていました、彼はそこでゲスト教授であり、彼にコースを与えました。

このカタロニアの電気、コンピューター、および物理エンジニアは、彼がまだ名誉研究教授として協力している機関である高等科学研究センター（CSIC）の人工知能研究所の創設者です。彼の最新の本はマドリードで発表されたばかりです、 人工知能について知っておくべき100のこと （Lectio ediciones）、この分野の歴史を通して非常に教育的なツアーを提供しており、それほどではないアイデアを説明することができます。 生成AIに、chatgptやco -pilotなどのツールの背後にあるもの、 彼は、原稿が公開する準備ができていたときに解散したので、エピローグを捧げるだけです。

聞く。 あなたの意見では、生成AIが規律に与える影響は何ですか？

答え。 科学的に言えば、私はかなり不足していると思います。現代のAIに固執する場合、大きな科学的な問題は、生物学的ではないものに知性がある可能性があるかどうかです。私は、世界を本当に理解するためには、注意する必要があると信じています。それは、50年代と60の先駆者の時代以来、科学的な目的です。あらゆる点で人間と同じか賢い機械を作ることです。私の意見、そしてヤン・レクンや デミス・ハッサビス [director general de Google DeepMind]生成的AIは、私たちがその強い方向に向かっているだけでなく、Lecunが言うように、それを達成する方法から私たちをそらすことです。議論は、彼らがこの世界で相互作用する体を持っていないので、彼らは世界を理解することができないということです。もう少し進んでください。身体を持つことにより、基本的な物理的法則と、リンゴを解放する場合など、赤ちゃんに知っている最も基本的な因果関係を学ぶことができます。しかし、それはAIが認識していることを意味するものではありません。

P. しかし、生成的AIは世界中で魅力を引き起こしています。最初の通知はいつでしたか Google BlakeLemoineのエンジニアは、AIとチャットしていると考えていた。なぜ私たちは擬人化する傾向があるのですか？

R. それは人間に固有のものです。次に、人間の資質を持たないオブジェクトに科目を投影します。それはいつもこのようなものでした。しかし、この場合、結果は印象的であることを認識しなければなりません。あなたは何かを尋ねると、答えは非常に過去の精度、文法的に完全で、説得力があり、よくできたスピーチでありますが、時には虚偽を解放します。私は人々がその背後にあると思うことができることを理解しています。しかし、実際には、パターンを何度も検出して再結合するコンピュータープログラムに直面しており、結果をregurgiteしています。

P. AIはすでに人と同じくらい知的であるか、意識的でさえあると考える人がいます。マシンがなんとか意識を請求する可能性はありますか？

R. マシンが知的で意識的であることを確認する人は誰でも、それを証明しなければならない人です。私は、気づいていて、世界を理解し、この用語の人間の意味で知的であることは、私たちが生きているという事実に深く根ざしていると信じている人の一人です。私たちの基質は炭素化学であり、シリコンの炭素化学ではありません。私たちは、ハードウェアとソフトウェアを使用して、マシンとは大きく異なります…コンピューターの背後にある物理学は、電気を導くかどうか、一部のゼロではないトランジスタに基づいています。電気的な活動だけでなく、化学もあります。要するに、脳と人体の性質は非常に比類のない機械とは非常に異なるため、私の意見では、意識と知性は生物でのみ発生する可能性があります。もう1つのことは、非常に遠い日に、バイオエンジニアリングは、のレプリカントが ブレードランナー 彼らは実現可能でした。それが起こった場合、私はマシンが意識的で知的になる可能性があることを認め始めます。

P. 本の中で、彼はAIの基本的な課題の1つは常識を得ることだと彼は語っています。そこでいくら前進できますか？

R. さて、今のところ、私は毎日、その新しい言語モデルが以前のパラメーターよりも多くのパラメーターを持っていると言うために毎日出てきたことがわかります。しかし、これらのモデルはすべて、本質的に同じです。それらは、グレート言語モデル（LLM）の背後にあるニューロンアーキテクチャであるトランスの概念に基づいており、特定の単語のシーケンスに従う可能性が最も高い単語を評価します。科学的に言えば、私は進歩を見ません。現在、Google DeepMindなど、モデルにロボットボディを提供しているなど、優れた技術的なものがすでにあります。そこでは、面白いことを見ることができます。生成モデルが訓練されているデータが不足しているため、ハッサビスまたはレカンは、彼らが世界を理解できるように肉体的にすることであると主張します。行う必要があるのは、ハイブリッドを生成し、ニューロンネットワークを認知アーキテクチャと統合し、ロジックに基づいたシンボリックです。そして、その結果、それを身体で提供します。

P. AIを与えることなく、大きな進歩はありませんか？

R. AIは、うまく機能するために世界の知識を常に持つ必要はありません。 Alphafold、それ ノーベル化学賞はハサビスを獲得しました32の異なるアルゴリズムがあります。ニューラルネットワークがあります、 機械学習 統合された方法で機能する因果関係。タンパク質の折り畳み方法を予測するには、世界のモデルを持つ必要はないため、身体を持つ必要はありません。

P. 彼は本の中で、生成的AIが非常に急いで展開されて走っていると不平を言っています。どうすればいいですか？どんな規制が必要ですか？

R. 私たちは一種の武器競争にいます。最初のChatGptモデルは、それを使用している何億人もの人々からすでにフィードバックを受け取るという考えでそれを投げました。バグを解放し、何が起こるかを見るのを待つこのダイナミクスは、倫理的で法的な観点から致命的です。大規模な社会実験を行うことはできません。あなたはもっと賢明でなければならないと思います。私たちはすでにベルギーと米国の数人の自殺を見てきたので、私たちはすでに見てきたので、私は心配しています。 エミリー・ベンダー、ティムニット・ゲブル、マーガレット・ミッチェルはすでに記事で警告していました 人々が人間とやり取りしていると思わせる技術をリリースした結果について。

P. EUが問題に焦点を合わせている方法は正しいと思われますか？

R. 欧州連合は理にかなっていますが、 規制 100％によると。それは非常に大きな官僚的な負担を伴うと思います。ソフトウェアデザイナー自身がブラックボックス内で実際に何が起こっているのかわからない場合、どのようにしてアルゴリズムの透明性を要求しますか 機械学習？批判するもう1つのことは、自律的な致死兵器の適用についても言及していないということです。

しかし、これらの注意事項により、規制の背景のアイデアは良いと思います。しなければなりません AIの危険な応用を規制します。私たちは人類を支配することではなく、真の危険について話します：情報の操作、誤った情報、選挙結果への影響、バイアス、差別、絶対に持続不可能なエネルギー消費など。すでに実際の問題の長いリストがあります。それは、AIの実存的リスクに焦点を当てた人々が、すでに何が起こっているかについて厚いベールを実行するためにそれを行うという感覚を与えます。