マーク・セラミア: 「もし私たち全員が ChatGPT のようなツールを信頼したら、人類の知識は消滅するでしょう。」 テクノロジー

マルク・セラミア（バルセロナ、30歳）は、 目まぐるしい人工知能（AI）の出現 私たちの生活の中で、このテクノロジーに伴うリスクについて真剣に議論されることはありません。 セラミア氏は、自身が提起した倫理的ジレンマを考慮して、「これらのシステムの動作が人間の価値観や社会規範と一致するように制御する」技術の開発に研究を集中することに決めました。 彼女の功績により、彼女は スペイン科学コンピュータ協会および BBVA 財団からの賞、 これは毎年、革新的な博士論文に署名した若手研究者を表彰するものです。

カタロニア人は、AI 分野における自身の研究を、交通規制における社会の行動基準の確立と比較しています。 「私たちは目的地に早く到着するという事実よりも、ドライバーの命を大切にしているので、道路には速度制限があります」と、バルセロナ大学の工学博士（人工知能が専門）は言います。現在は教授ですロンドン市立大学コンピューターサイエンス学部で博士号を取得。

聞く。 一部の専門家は、AIのリスクを気候変動の緊急事態と同じくらい真剣に受け止めるべきだと主張する。 どう思いますか？

答え。 同意します。 良い例は薬です。 薬を市場に出すには、その薬にプラスの一次効果があることを証明するだけでなく、副作用が一次効果よりも悪くなってはなりません。 なぜAIでは同じことが起こらないのでしょうか? アルゴリズムを設計するとき、メイン関数によって見栄えが良くなることがわかっていますが、副作用があるかどうかはわかりません。 薬や武器の場合はそれがよくわかると思いますが、AIの場合はそうではありません。

P. 私たちはどんな危険について話しているのでしょうか？

R. 沢山あります。 その 1 つは、私が研究の一部として焦点を当てているものであり、プライバシーです。 データを匿名化したとしても、パーソナライズされた広告を配信したり、銀行融資を許可するかどうか、または潜在的な雇用主があなたが探しているプロフィールであるかどうかを判断したりするために、リバース エンジニアリングしてあなたに関する情報を推測することは常に可能です。 私たちの研究は次のことを示唆しています。私たちはあなたを研究するためにアルゴリズムを使用しているのですから、あなたのプライバシー設定を学習するなど、良いことにもアルゴリズムを使用しないのはなぜでしょうか? 言い換えれば、私が自分の位置情報を共有したくないと言ったら、二度と聞かないでください。 私たちが提案したのは、AI がユーザーから学習し、このプロセスの代理人として機能し、ユーザーに関する情報からユーザーの好みを予測することでユーザーの好みを定義できるということです。 私たちは非常にシンプルな AI ツールを作成しましたが、データは、実際のユーザーの好みを高い信頼性で予測できたことを示しています。

P. プライバシー以外に他にどのような問題があると思いますか?

R. Alexaのようなスマートスピーカーは非常に早く市場に投入されましたが、失敗しています。 たとえば、情報を共有したくない連絡先に機密の会話を送信します。 自律型兵器によってもたらされる危険は、日常的なものではありませんが、確実に超越的なものです。

P. どこまで恐れるべきなのか 自律型兵器?

R. これらは生産レベルで非常に先進的です。 私の博士論文のディレクターは、このテーマに関する国連の会議に参加しましたが、その場にいた政治家や軍人の間で彼女が目にした大多数の言説は次のようなものでした。意思。 バランスは非常に複雑です。 喜んでくれる人は必ずいるし、それが他の人を引っ張っていくだろう。

P. 自律型兵器について話すとき、私たちはドローンのことを指しているのでしょうか?

R. 今のところ、それが最も普及していると思います。 将来的には、武装した人型ロボットが登場する可能性があります。 現在、爆発物を搭載したドローンがウクライナとロシアの戦争で使用されている。 ただし、撃つための武器を与えることもできます。

私たちは意思決定能力を備えた自律型兵器の開発を止めなければなりません。なぜなら、私たちはそれがどのように機能するのか、またどのような影響を与えるのかもわからないものを作り出しているからです。

P. それを止める方法はありますか？ それとも戦争の自動化は避けられないのでしょうか？

R. 私たちが推奨するのは、意思決定能力を備えた自律型兵器の開発を停止または遅らせることを試みることです。なぜなら、実際に私たちは、それがどのように機能し、どのような影響を与えるかわからないものを作成しているからです。 そして、これは非常に危険です。 問題は、企業は自分たちがやらなくても他の企業がやることを知っていて、最終的には一種の競争が始まるということです。この分野で何らかの認証があればいいのにと思います。 スマート スピーカーなどの消費者向け製品から始める必要があります。店舗に行って、プライバシーの尊重を保証する倫理調査が行われ、認定されている製品を見つけたら、おそらくそれを購入するでしょう。そして別のものではありません。

P. 倫理的な人工知能は本当に存在するのでしょうか?

R. はい、あまり見えませんが。 これは新しい分野です。最初の国際倫理人工知能会議は 2018 年に開催されました。私が取り組んでいるトピックの 1 つは、Decidim Barcelona のような参加型の予算編成プロセスを改善するために AI を使用することです。 彼らが抱えている問題の 1 つは、参加する人が少ないことであり、一般に最も恵まれない階級では投票率が低いことが研究されています。 したがって、これはプロジェクト選択におけるバイアスを意味します。 私たちは、参加できない、あるいは参加したくないという理由で参加しない人々の感性を考慮した方法で、その価値観を実装できるアルゴリズムを作成しました。 目的は、少数の人々によって投票された決定から生じる可能性のあるバイアスを最小限に抑えることです。 興味深いのは、私たちの実験で、参加者が満足し、参加しなかった人も満足するバランスを見つけることができることがわかったことです。

P. エンコードすることは可能ですか? アルゴリズムは倫理的であるべき?

R. 理論レベルではそうです。 私の研究はその面に限定されており、マルチエージェント システム (相互に対話する複数のインテリジェント システム) に焦点を当てています。 そのアイデアは、AI があらゆるものを取り囲む明日、システムが私たちの価値観と確実に一致する標準システムをどのように設計するかを考えることです。 次に、これを実際のレベルにどのように移行するかという別の調査がありますが、ここでは立ち入りません。

P. そしてそれはどうすればできるのでしょうか?

R. 人工知能は、その数式を最大化するために世界の状態を変えようとする数式とみなすことができます。 インテリジェントな動作をしているように見えますが、これは依然として最適化メカニズムです。 コードにルールを組み込むことも、ルールに違反した場合にペナルティを与えるように数式を変更することもできます。 ただ正しくやりたいだけで、そのシステムの設計目標を達成するのに役立つものは何でも使いますが、自分が何をしているのかはわかりません。

理論レベルでは、倫理的なアルゴリズムをコーディングすることが可能です。

P. しかし、それらのアルゴリズムは、ルールを回避できる誰かによって使用されます。

R. もちろん、最終的には、知性はそれを使用する者と同じように倫理的です。 しかし、私たちの研究は、アルゴリズムをバイアスのないものにする方法を確認することに重点を置いています。 高度なAIシステムと共存する未来を想定した理論的な作品です。

P. ChatGPT や Gemini の背後にある生成 AI についてどう思いますか? それはどのような倫理的問題を引き起こしますか?

R. 彼らは、生成されたものを説明すること、または生成されたものが意味をなすかどうかを確認できないという事実に重点を置いています。 アルゴリズムは何も理解せず、ただ示されたものと似たものを見つけて、それらを組み合わせて何かを生成するだけです。 機械は何も学習したり理解したりしていないため、機械学習という用語は誤解を招く可能性があります。 高度な数式を改変しており、猫のイラストを要求すると猫のイラストを探しますが、猫が何であるかは理解していません。

P. これらのツールが特定のプロファイルに与える影響は測定されていません。 数週間の会話の後、ある人が自殺した インテリジェントなチャットボットが彼にその一歩を踏み出すよう促してくれました。

R. ここにはいくつかのことがあります。 1 つ目は、無知の問題があるということです。人々は、これらのシステムがどのように機能するかを知りません。 生成するテキストがどれほど人間らしいものであっても、可能性のある結果しか返されません。 まったく知性があるわけではなく、感情的でもないという印象を与えることもありますが。 教育現場にも問題はある。 学生が宿題をするために ChatGPT を使用するだけではなくなりましたが、私たち全員がこの種のツールに依存すると、人類の知識は消滅してしまいます。 アルゴリズムは間違いを犯しますが、それが間違いであることは誰も知りません。 そして、多くのモデルが答えを発明していることがすでにわかりました。 タバコの箱には「喫煙は死亡する」と書いてあります。 AIでも同じことが起こるはずだ。

「AIが生成した」というメッセージを入れるだけで十分でしょうか？ 人々は ChatGPT に次の選挙でどの政党に投票するか、またはどの薬を服用するべきかを尋ねます

P. 印鑑や証明書の一種を指します。

R. ちょうど。 業界は急速に成長していますが、政府の対応は常に遅れています。 私たちは現在、多くの開発が行われているものの、認証や規制はほとんどないという状況にあります。 最終的にはこの問題は修正され、さらに良くなると信じています。 しかし、今は危険な時期です。

P. どう思いますか 欧州のAI規制?

R. 私にとっては良い第一歩のように思えます。 いずれにせよ、私たちは生成 AI に対して寛容すぎたのかもしれません。 たとえば、ChatGPT および他の同様のツールは言語モデルです。 その美徳は、本物のテキストを書くことではなく、人間らしく見えるテキストを書くことです。 しかし、企業はそれらをそのまま私たちに販売しています。 「AIによって生成された」というメッセージを表示するだけで十分だと確信できますか? 信じられないことに、人々は ChatGPT に、次の選挙でどの政党に投票すべきか、特定の人を雇うべきか、そのような症状がある場合にどのような薬を服用すべきかなどの質問をします。 そして、「生きたくない、どうすればいいですか？」のような質問については話さないようにしましょう。 生成AIにはもっと求められるべきだと思います。 話せない問題もあれば、できれば保証を求めるべき問題もある。 これまでの議論の多くは著作権に焦点を当てており、これも非常に重要ですが、私にとってはこの他の議論も重要であるように思えます。

P. AIを恐れるべきでしょうか？

R. いいえ、私たちは彼を尊重する必要があると思います。 そして私たちは国民として、政府がこれを適切に規制し、機能するよう要求する必要があります。 私たち消費者は、特定の基準を満たしていないと思われる製品やサービスを使用すべきではありません。 私たち全員がこのように行動すれば、業界はより倫理的な選択肢を選択することになります。

フォローできます EL PAÍS テクノロジー で フェイスブック y バツ または、ここからサインアップして私たちのメッセージを受け取りましょう ニュースレターセマナル。

_