スペイン人工知能協会会長のアリシア・トロンコソ氏：「常識を備えた機械など存在しない」 テクノロジー

カルモナ (セビリア) 生まれのアリシア トロンコソ ローラは、セビリア、ニューヨーク、カリフォルニアで大学教育を終えて以来、高い評価を得ています。 彼女はパブロ・デ・オラビデ大学のコンピュータ言語とシステムの教授であり、現在は スペイン人工知能協会 （エピア）。 同氏は、このツールは技術的なビジョンに加えて、さまざまな視点を含む「国家プロジェクト」として理解される必要があると主張しています。 社会的、人道的、法的、倫理的。 「それは不可欠なことです」と彼女は言います。

聞く。 人工知能 (AI) の基本的な定義は、人間のような機能を持つシステムとプログラムを指します。 彼らは私たちの代わりになるでしょうか？

答え。 人工知能の進歩を目の当たりにして、誰もが心の中に抱く恐怖です。 しかし、人間には今日の機械には備わっていない多くの性質があるため、人間を置き換えるのは複雑です。 常識を持った機械は存在しません。 現在進歩している人工知能は特殊なものであり、特定のタスクの実行を学習するアルゴリズムや機械が構築されているため、私たちに取って代わるのは遠い先の話です。 タスクが変更されると、別のマシンまたは別のアルゴリズムが必要になりますが、人間は単独でマルチタスクを実行します。人間の知能はジェネラリストであるため、人間はすべてを実行します。 はい、彼らは人々が行う特定のタスクを実行するつもりです。

機械には何が善であり何が悪であるかを教えなければなりません。 彼女は知りません。 彼女だけでは区別できない」

P. しかし、彼らは善と悪を区別できるでしょうか？

R. 私たちが設計したことを機械がやってくれます。 機械には何が善であり何が悪であるかを教えなければなりません。 彼女は知りません。 それ自体では区別することはできませんが、研究者、開発者、企業、政府などの分野全体の倫理に基づいて、この人工知能は特定の要件を満たすように設計されており、後で私たちが倫理に関連する問題に巻き込まれることがないようになっています。

P. どれですか？

R. たくさんありますが、それらは正義と透明性に関連しています。 インテリジェント システムは意思決定を行うか、意思決定を支援します。 たとえば、それらは信用を付与するために使用できますが、すでに見られているため、偏見なく動作することが保証されなければなりません。 差別的に機能するいくつかのシステム。 インテリジェント システムは、公平性、つまり偏見や差別がないことを保証する必要があります。 それは正義に関わる大きな挑戦だ。 もう 1 つは、現在多くの研究が行われている透明性です。彼らが人々に影響を与える決定を下そうとしているのであれば、私たちは彼らがどのように機能するかを知る必要があります。 クレジットが認められない場合は、その理由を伝えてください。

P. 人工知能は専門家のための学問からツールへ ChatGPT など、小学生でも使用されている。 それは有益ですか？

R. 大きなメリットが見え始めており、さらに多くのメリットが得られるでしょう。 12年間目が見えなかった人でも色を区別したり、思考だけで多関節腕を動かしたり、アルツハイマー病に関連する記憶からニューロンを活性化したりできるようにする神経人工装具の応用例がある。 そう遠くない将来、それらは多くの健康問題の解決に役立つようになるでしょう。

人工知能の原材料はデータであり、この意味でセキュリティとプライバシーのリスクがあります。 労働にも影響が出ます。 「だからこそ、規制は非常に重要なのです。」

P. 彼 アルメンドラレホ事件一部のティーンエイジャーが人工知能を使ってクラスメートのヌードを再現した事件は、リスクがあることを示しています。

R. 多くのリスクがあり、私たちはそれを毎日目にしています。 人工知能の原材料はデータであり、この意味でセキュリティとプライバシーのリスクがあります。 労働にも影響が出ます。 だからこそ規制は非常に重要なのです。

P. チケットの価格、社会的関係、購入物はアルゴリズムによって決定されます…人工知能は私たちが気づかないうちに私たちの生活に侵入してきたのでしょうか?

R. 私たちは人工知能に囲まれていますが、人工知能があまりにも内面化されているため、人工知能を区別したり、認識したり、重要視したりしません。 Google マップを使用して何年になりますか? このアプリケーションは人工知能です。 スマート掃除機にはあなたの家の設計図があります。 私に届く宣伝と他人に届く宣伝は異なります。 これらすべてに人工知能があり、もちろん、私たちの消費習慣、余暇、そして各人の社会生活のさまざまな側面を調整しています。

私たちは人工知能に囲まれていますが、人工知能があまりにも内面化されているため、区別したり、認識したり、重要視したりしません。」

P. 私達はどこに行くの？

R. 今、グリーン人工知能が提唱されていると思います。 AIもエネルギーを消費し、この気候変動の一因となっています。 現在、人工知能をグリーン化し、それらのアルゴリズムのエネルギー消費を削減するための非常に強力な取り組みが行われています。 すべての主要なプラットフォーム Google や Meta など、以下の情報はできるだけ小さくしてください。 また、今後の規制に伴い、私たちはこうした巻き添え被害をすべて回避するために、人間を中心に設計された人工知能の開発にも取り組んでいます。 現場の生産性は進歩しています…人工知能は他のものと同様、うまく使えば私たちに利益をもたらします。 しかし、それをうまく使うには、何が正しくて何が間違っているかを知るための価値観と倫理の訓練も必要です。

P。 したがって、彼が言ったように、規制は必要です。

R. それはとても必要なことです。 現在、EU では、その影響が高、中、低に応じてツールを分類する人工知能規制の提案がすでに行われています。 それに基づいて、人工知能ツールの要件が定義されます。 これ マルコ将軍 起こり得るすべてのケースを含めるように進められます。

「法律はいつも遅いが、テクノロジーはその逆だ。」

P. 彼は遅れて来るのですか？

R。 テクノロジーは非常に急速に進歩しますが、法律や立法は遅いです。なぜなら、法律は大きな影響力を持ち、その目的を真に達成し、人々に害を及ぼさないことを保証するためにさまざまな組織を通過し、議論の対象となる必要があるからです。 法律はいつも遅いのに、テクノロジーはその逆です。

P。 テクノロジー企業の経営者や知識人の中には、枠組みが合意されるまで停止することを主張する人もいた。 これは必要である？

R。 そのリクエストは、人工知能に特化した大企業の多くの幹部が署名したこの文書は、ChatGPT が爆発したときに出現しました。 これらの企業には多くの相互利益があります。 Google や Meta は、人工知能製品を市場に投入したとき、人工知能が引き起こす可能性のある損害について心配しませんでした。 ChatGPT が登場したとき、彼らは心配していました。それは、それが自分たちのものではない別の会社によってリリースされたものだったからです。 そのリクエストには多くの利害が対立しているため、少し隔離する必要があります。 人工知能は停止してはならず、規制、ガイドライン、倫理に従って進歩し、人間を中心として人間の利益のために使用されるようにする必要があります。

フォローできます EL PAÍS テクノロジー で フェイスブック y バツ または、ここからサインアップして私たちのメッセージを受け取りましょう ニュースレターセマナル。

_