ジュリ・ポンセ、法学者：「AIマシンの100％はサイコパスです、人間は1％だけです」|テクノロジー

ジュリ・ポンセ・ソレ（バルセロナ、57歳）は、バルセロナ大学の行政法の教授です。彼は、非常に長いタイトルで、行政で人工知能（AI）の適切かつ合理的な使用に関するマニュアルを公開しました。 2024年の欧州連合の人工知能規制、優れたデジタル管理の権利とスペインの司法管理。 他の多くの取引と同様に、役人はAIを利用して苦しみます。しかし、彼らの繊細な仕事のために、機械の要件はより厳しいものです。 PonceSoléは、彼の「共感やその他の感情の欠如は、人間に影響を与える決定を下すことができないことを意味する」と考えています。

聞く。 ChatGptはどのように教授を使用しますか 行政法の？

答え。 私はそれを使用し、生徒たちがそれを使用することをお勧めします。私は彼らの可能性と制限についてガイドラインをします。法学は法学者にとって重要です。 ChatGptは発明であるか、より誠実であり、重要なラグーンである法学データベースにアクセスできないことを伝えます。何よりも、あなたを置くために多くのことをしています。

P. それほど便利ではないようです。

R. 私が編集者のメンバーであるいくつかの法的雑誌は、AIで作られたますます科学的な研究記事が見つかっているため、私たちが大学で何をしているのかについて、すでに慎重な相談を行っています。私はパーセンテージを知りません、 しかし、それは存在し、心配するものです。

P. 当局はこれらのツールも使用していますか？

R. 私たちはその瞬間にいます 極西。 私の大学では、基準があるかどうか、AIを使用するための倫理的プロトコルがあるかどうかを尋ね、私に答えました。それは一般的な何かだと思います。ガイドや兆候があることはわかりません。誰もがそれが彼に見えることをします。それはそれぞれの公務員の手に残っています。

P. 行政におけるAIによるこのコントロールの欠如を恐れていますか？

R. 人工知能は恐れるべきではなく、尊敬と慎重さです。 AIには膨大な量のデータが必要であり、管理管理はデータ保護法を考慮に入れる必要があります。別の予防は、人工知能の現在の限界であり、狭いまたは弱いです。制限があり、決定に高い料金を使用した場合、それはエラーであり、違法です。

P. 人間の役人も間違いを犯し、違法ではありません。

R. それは本当です、人間は間違いを犯し、認知バイアスの特定の問題を抱えています。私たちだけが脳を持っているので、それらは人間の偏見です。マシンにはできません それらのバイアスですが、他の人がいます、 幻覚のように。人間と機械の両方が間違いを犯します。しかし、人工知能は数千または数十万回複製することができます。それはスケーラビリティの主題です。人工知能がうまく機能する場合は、管理を加速します。しかし、見返りに、それがひどく機能する場合、通行料を支払う必要があります。影響はより大規模なものになる可能性があります。

P. 感情は決定に関連している、と彼は言う。 AIが持っていないように、あなたの決定は違法ですか？

R. あなたが感情を持たないかどうかはわかりません。もちろん、今ではありません。中期的には、長期的に見られます。

P. しかし、それは感情を模倣します。

R. しかし、人工知能には感情がなく、脳がありません。また、感情の中には、鏡ニューロンがないため、共感がありません。 AIマシンの100％は、共感を欠いているため、サイコパスです。実際、人間は間違いを犯します。しかし、サイコパスであるのは1％だけです。そこで、私たちは右を大きく超えて、私たち全員に影響を与える興味深い分野に入ります。機械の決定は私たちを刑務所に送る可能性があります。これは、平均的な市民にとって最も目立つでしょう。人工知能の前に、私たちがすでに人間と持っていた議論です。 オバマは最高裁判所の治安判事ソニア・ソトマヨールに選んだ そして、彼女が彼女の決定において彼女の共感的能力を大切にしたので、彼は彼女に名前を付けたと言いました。分裂がありました。法学者は、正しいことが冷たい合理性に関連するように訓練されています。これは、私たちが啓発から引きずられる相続です。このモデルは何年も質問されてきました。伝統は、良い決断を下すために感情を孤立させなければならなかったということです。 しかし、神経科学者のアントニオ・ダマシオはそうでなければ断言します： 感情なしに良い決定を下すことはできません。バランスが必要です。また、感情は肉体の人間の存在に関連しており、機械にはないと述べています。共感を示すために、いかなるタイプの感情もできないマシンを私に決めたいと思わないのは確かではありません。公平性は長年にわたって民法に属してきました。標準は和らげなければならず、ケースに適応しなければなりません。私はあまり静かではないでしょう。

P. それは理にかなっています。

R. 今日のテクノロジーを使用すると、マシンを使用して、人々の利益と権利を考慮しなければならない感謝のマージンを暗示する決定を下すことは単に違法です。

P. しかし、通常、判決が常に同じ方向に偏っている、または彼らが犠牲者をひどく扱うという裁判官についての苦情がしばしばあります。

R. 選択する必要はありません。私たちは、2つの世界の最高のものを団結させるために知的でなければなりません。理想は、最終決定としてアシスタントとしてのマシンと人間間のコラボレーションです。欧州連合AIの規制は重要なコミットメントをしています。人工知能は文章を発行することはできません。それは裁判官を助けることができます。そして彼は、審査の機能は本質的に人間であると付け加えました。それは、AIを使用できないという意味ではなく、最後の単語にマシンを持たないことだけです。

P. それは重要な変化です。

R. 中間点は常にあるので、非常に合理的に聞こえます。しかし、私は私自身の悪魔の弁護士になります。最終的に人間が良心を安心させること。しかし、私たちは自動化と呼ばれるバイアスに苦しんでいます。私たちは機械を信頼する傾向があります。そして、別の重要な人間の要素があります：思考は着用します。代わりに、人間が監督し、決定することは、最終的に起こることができることは、人間がAIが彼に言ったことのみを確定しているということです。たとえば、裁判官が1か月で30文を発行しなければならない場合、最初の文では非常に慎重になります。しかし、AIがアシスタントと比較的うまく機能していることがわかったとき、300番を行うと、会社や何か他のものを刻印する可能性があります。私たちが知っておくべきリスクです。

P. 責任を避けるために、人間がAIの決定に守られていることは起こり得ますか？

R. これは、防御官僚主義と呼ばれる現象が起こっているという文脈でのリスクであり、署名の恐怖です。生成されたのは、あなたの署名をスタンプすることへの特定の恐怖であり、会計団体や刑事分野で問題はありません。 AIの使用は、この問題を悪化させる可能性があります。なぜなら、私が恐れているなら、最も簡単なことは決定をマシンにかけることだからです。私たちはタンパク質を自己タンパク質にし、問題を回避する傾向があります。そしてそれはできません。誰が決定を下すかの責任は非常に明確でなければなりません。

P. 民間部門のように前進し続ける場合、まだ少ない役人が必要です。

R. より少ない役人が必要な可能性が非常に高いです。

P. 役人はこの前進を免除されていません。

R. 公共および民間部門では、同様の進化があります。本の中で私は人類保護区の概念を展示します。私はすでに何年も前にそれを運転していました。彼 エリザクリエイター [uno de los primeros chatbots] 彼はすでに60年代に、マシンに残されないものがあると言った。この直感は有効なままです。人類保護区は、最後の上級公務員を救う保護区ではありません。私はこれらの会話を民間部門と行政評議会の専門家と会話しました。市民の非常にデリケートな権利と利益に影響を与える一連の機能とタスクのために人類保護区を確立する必要がある特定のコンセンサスがあります：刑法、クレジットの付与、大きな罰金。

ヨーロッパの人工知能規制は、硬直させたくない基準の良い例です。 適応するためのドアとポルティージョがいっぱいです。不適切な使用である人工知能の誤用は、私たちが望むものの反対に私たちを導くでしょう。私はテクノジストや抗存在論ではなく、まったく逆です。バランスを見つけなければなりません。 AIがすべての問題を解決するか、それが壮大な災害を引き起こすという素晴らしい宣言をすることは、単純であり、見出しが与えるものです。しかし、現実は今後数年間で行われなければならない静かな仕事です。法廷では、人工知能はどのように使用されていますか？何が重要ですか？裁判官はどのような役割を持っていますか？または、都市計画計画では、どのような役割を果たすことができますか？誰が最終決定を下しますか？

P. 答えるのは簡単ではないようです。

R. AIの前にすでに議論した非常に大きな問題があります。私たちは今それらについて議論しており、それらについて議論し続けます。対照的に、私たちがIAについて話すとき、私たちは人間の意味、良い決断をすることはどういう意味ですか：人間が機械に貢献し、何に加えて機械が人間に貢献しているのかについて話します。私はすでに、彼らが15億ユーロを節約するために自動化するつもりだと言った選挙の申し出を読んでいます。人工知能は疲れず、仕事の損失を求めず、休暇をとらないでください。彼らは組合ではなく、問題を引き起こしません。あなたがそれらのあいまいな役人を避けるだろうと言うのは非常に魅力的です。しかし、私たちはディストピアを避けようとします。

人工知能は組み込まれている必要があり、私たちはすでに服用しています。行政は、AIをさらに使用して、パーソナライズされた積極的なサービスを提供する必要があります。民間部門のように、彼らはあなたが必要とするかもしれないものを特定し、予測します。明らかに利益のために。同じことが行政を行うことができます。学校の食堂のどの子供が奨学金を必要とし、親がそれを要求するのを待たないことを特定します。