Google AIのディレクターであるPilarManchón：「各産業革命では、作品が変容し、破壊されません。今回ははるかに速いです」|テクノロジー

53年前にセビリアで生まれたピラール・マンチョンは、人工知能（AI）の研究戦略のディレクターです グーグル。楽観主義はそれをあふれさせ、感染します。人類によって作成された最も不穏で変革的なツールの1つであるため、機能不全の存在を認めていますが、話すことを好みます。 彼 「より良い社会を作ることができる」楽器として、人間の種全体に「新しい再生」をもたらす。彼の故郷の規模の間に、彼はこのインタビューを、播種の目的と、新しい世代にAIが新しい世界を創造する可能性について影響を与えるという目的を与えます。

聞く。専門家のグループ 「赤い線」の施設は、国連に尋ねたばかりです AIの損害を避けるため。

答え。私たちは常にセキュリティの問題の先駆者でした。人工知能は、高度で革新的で非常に野心的な開発につながるが、責任ある安全な方法で行われることです。私たちは最初に立ち上げました 人工知能開発の原則 そして、彼らは開発、革新、コラボレーションのフレームワークを非常によく定義していると思います。人工知能は、私たちがより良い世界を築くのに役立つ前向きな力です。しかし、もちろん、節度でそれを行う必要があり、常識を備えており、うまくやるために必要な措置を講じる必要があります。私たちは、市場のリズムに向かっているにもかかわらず、常に速度で安全を与えてきました。これは最も困難です。これらのイニシアチブ [la carta a la ONU] 彼らは非常に多様であり、多くの科学者の声を聞くべきです。

P. AIの人間化が入ります 危険な個人的な関係？

R. 私は常に、人間の認知プロセスの観点からマンマシンの相互作用の世界を見ています。人間化は自然なプロセスです。私たちは皆、行動であろうと生理学のいずれであろうと、動物や物に人間の特徴を割り当てます。それは自然に起こります。人工知能でそれをすることは、どういうわけか赤い線を越えることができますか？場合によっては、同様に非常に有益です 孤独のような痛みを伴うもの。しかし、それを乱用し、あなたが人工システムと対話しているという概念を失うことは、リスクを生み出します。最良の方針は、開発が常に透明であることを保証し、誰もが人工知能と話していることを認識して、決定を下し、特定の行動に赤い線を決定する人を作ります。そして、もちろん、ユーザーを教育します。なぜなら、どんなツールもひどく、怠慢に、または危害を加えることができるからです。それが私たちが運転することを学ぶ理由です。しかし、擬人化することは悪魔化することはできませんが、場合によっては私たちを助けることができ、誤用または管理されていることが有害である可能性のある自然なプロセスとしてそれを理解する必要があります。

機械の人間化は、場合によっては私たちを助けることができ、誤用または管理されたものが有害になる自然なプロセスです

P. しかし、AIを使用する方が、責任を負うように私たちを教育するよりも簡単です。カリフォルニア大学（UC）バークレー校の教授兼コンピューター研究者であるスチュアートラッセルは、現在の状況を、ステアリングホイールやブレーキのない非常に速い車を持っていることと比較しています。

R. 問題は、誰が運転するか、誰が運転すべきか、どの車両をどのようなものにするかを知っていることです。多くのタイプがあり、リスクレベルは異なります。情報を提供しなければならず、コントロールのレベル全体を持っている人のみが、あらゆるツールのリスクを引き受けることができます。 iaは、彼が誰を使いたいかに応じて多くの違いがあります。最も重要なことは、Googleのような企業が私たちのリソースの多くを、物事をうまくやるように捧げ、 このツールの目的を教育しますそれをどのように使用すべきか、それを最適化する方法、そしてそれが進化する人々であること。数学が始まる前に4歳の女の子が計算機を持っている場合、彼は学びません。しかし、操作を行うための基礎があるときにそれを行うと、はるかに複雑な思考のプロセスを加速します。 AIは私たちの能力を高め、それは人間のエンハンサーです。

P. ¿los エージェントユーザーの名前に基づいて行動できる、マシンに危険な電力を付与することを仮定しますか？

R. 誤った目的のために使用または使用されているツールが不十分または使用されると、損害が発生します。重要なのは、私たちが置いた障壁、私たちが提供する教育、および制御レベルです。私は、デジタルエージェントを信頼することの意味である認知的観点からの自信を長い間調査してきました。予想されるパフォーマンスを開発するために、コンピューター、デバイス、または車内を信頼しています。しかし、エージェントは自然言語であなたと話をし、以前、人間だけがそれをし、それが複雑な状況を生み出すレベルであなたと関係しています。私たちは、人々に関係し、彼らの表現を読み、音声、文脈、その他すべてのトーンを理解するために、私たちの人生をすべて訓練してきました。そして今、あなたは適切なタイミングで、適切なトーンで、すべてを完全に完全に伝える人工知能を持っています。それはあなたのために作られ、それは手袋として適応し、あなたにサービスを提供しますが、それは人間ではありません。そのようなことに直面して、まだ適応を必要とする反応があります。あなたが映画に行って、あなたが知っている多くのものを真実ではないことを飲み込むときのように、あなたは自発的に映画に入り、怒りや泣き、笑います。しかし、その後、あなたは外に出て、それが真実ではないことを知っています。日本では、抱擁を与えるために人々を借りたり、親relativeや友人を通り抜けたりすることができます。偽の家族がデジタルエンティティであると想像してください。あなたはそれが真実ではないこと、彼らがあなたに与えているサービスであることを完全に知っています。それらを使用することは個人的な選択ですが、脆弱な状況を利用しようとしているサービスプロバイダーに悪い意図がない限り、それは悪いことである必要はありません。ガバナンス、法律、ツール監査があります。

それはあなたのために作られ、それは手袋として適応し、あなたにサービスを提供しますが、それは人間ではありません。そのようなことに直面して、まだ適応を必要とする反応があります

P. アプローチしますか 人間を克服できる人工知能？

R. 今、私たちにはインフラフマンがいます。つまり、それは私たちにできることを下回っています。人間と同じことをすることができるとき、私たちは超人に直接行きます。私たちは、一方と他方の間にゆっくりと移行する世界を想像しますが、テクノロジーでは必ずしもそうではありません。時には、重要な定性的な跳躍がパラダイム、速度、すべてを変えることがあります。問題は、私たちがどのように手に入れるかに関係なく、私たちが持っているものについて明確であるかどうかです。魔法の杖のようなツールがあります。これは、改善できるものとそれを行う方法や、より専門的かつ個人的に成長する方法、またはより健康的またはより健康的な創造性を発達したり、教育を受けたりする方法を特定するために、新しいより良い世界を作成するのに役立ちます。 AIは、私たちよりもはるかに優れた社会を構築できるツールです。しかし、そこにたどり着くには、私たちがそれをどのように行うかだけでなく、それが何を意味するかを見て表現する必要があります。それを達成する大きな可能性があります。このツールはそこにあり、それは進化し、私たちがこの社会をより良く構築するために、常識でそれを管理することができれば、私たちにより多くの力を与えます。

AIは、私たちが持っているよりもはるかに優れた社会を構築できるツールです

P. ただし、より悲観的なビジョンがあります

R. ことわざがあります [atribuido al pionero industrial Henry Ford] 私はそれが好きです：あなたができると思うかどうか、そしてあなたができないと思うかどうか、あなたは正しいです。あなたの信頼や、行う可能性に対する不信感は、あなたの成功または失敗に大きく依存します。私たちには、完璧ではありませんが、より良い世界を創造する大きな機会があります。人工知能を使用すると、できます。私はそう思うし、私たちはそれが起こっているという証拠を持っている。私たちは科学の分野で巨大なジャンプをしています。何千人もの研究者が使用しています Alphafold [sistema de IA desarrollado por Google DeepMind que predice la estructura de una proteína a partir de su secuencia de aminoácidos] 生物学、薬、または新しい薬の開発において進む。すべての知識の分野にAIを適用すると、見たことのない速度で前進します。その可能性があります。もちろん、いくつかのことは行くことができますが、それを防ぐ方法は、人々にツールの使用方法を正しく使用してエラーを特定するように教育することです。潜在的な損傷、関連するリスク、およびそれらを防ぐ方法を検出することを目的として、ツールをどのように使用できるかを確認するために、バッドの帽子をかぶった学際的な専門委員会があります。 Googleでは、当時、これらの委員会が利益を超える可能性のある危険性を観察したため、SuperInteresantesツールの発売を停止しました。私たちは、財産、社会、規制、または生態系が十分に成熟するまで家にいます。

すべての知識分野にAIを適用すると、見たことのない速度で前進します

P. しかし、あなたは雇用を排除しますか？

R. インターネットの作成により破壊された各ジョブについて、2.6が作成されました。それらは同じではありませんでしたが、それぞれの産業革命では、作品は破壊されていませんでした。今回の異なることは、それがはるかに速く、より水平で、はるかに深い方法で起こっており、人間は劇的な変化に迅速に適応するのに正確に良くないことです。しかし、それは私たちがしなければならないことです。

P. AIが悪い意図を持っている人にアクセスしやすくなったらどうなりますか？

R. 素晴らしいことができることはすべて、ひどく使用できるようになります。しかし、そのルールにより、社会は前進しません。人々がAIの可能性を理解し始めると、私たちが周りにいる人々に影響を与え、何よりも動機付け、インスピレーションを与えます。

P. とバイアス？

R. AIでバイアスを取りたいですか、それともあなたのものを入れたいですか？最終的に、私たちは偏見を取り除いているのではなく、私の社会、私のコミュニティ、私の政党、または私の宗教的なカルトの価値に従って、私が思うことを課したいと思っています。私の価値があなたのものと同じではない素晴らしいモデルでそれを行うことは複雑です。まず、それをどのように行うか、どこまで到達したいかを決定し、そこに連れて行くことができるツールを生成する必要があります。私は、たとえば人権である非交渉不可能な価値を提唱しています。しかし、あなたと私がまったく反対の位置を持つことができる他の価値があります。フォーミュラは、透明性、制御、教育です。