人工知能は嘘をつき、私たちを欺き、それが問題だと専門家が警告

人工知能 (AI) が悪意を持つようになる脅威を恐れていますか? 実際、新しい研究によると、すでにそのようになっています。 現在の人工知能プログラムは正直になるように設計されています。 しかし、彼らは憂慮すべき欺瞞能力を発達させており、オンラインゲームで人間を虐待したり、特定のユーザーがロボットではないことを検証するはずのソフトウェアを破ったりすることさえできた、と同誌の研究者チームが強調している。 パターン。

これらの例は些細なことのように見えるかもしれないが、それらはすぐに現実世界に深刻な影響を及ぼしかねない問題を明らかにしていると、AIを専門とするマサチューセッツ工科大学の研究者ピーター・パーク氏は警告する。 「こうした危険な能力は事後的に発見されることが多い」とAFPに打ち明けた。 従来のソフトウェアとは異なり、深層学習に基づく AI プログラムはコード化されておらず、植物の選抜育種と同様のプロセスを通じて開発されるとピーター パーク氏は続けます。 予測可能で制御可能に見える行動が、本質的にはすぐに予測不可能になる可能性があります。

「純粋な研究プロジェクト」

MIT の研究者らは、メタが設計した Cicero と呼ばれる AI プログラムを調査しました。このプログラムは、自然言語認識と戦略アルゴリズムを組み合わせて、ボードゲーム「ディプロマシー」で人間に勝つことに成功しました。 Facebook の親会社が 2022 年に歓迎した業績であり、2022 年に掲載された記事で詳しく説明されています。 科学。 メタによれば、ピーター・パークはシセロの勝利の条件について懐疑的であり、メタはプログラムが「基本的に正直で親切です」裏切りや不正行為ができない。

しかし、MIT の研究者たちは、システムのデータを詳しく調査することで、別の現実を発見しました。 たとえば、フランスの役割を果たしたシセロは、イングランド (人間のプレイヤーが演じる) をだまして、ドイツ (別の人間が演じる) との侵略を計画させました。 具体的には、キケロはイングランドに自分の保護を約束し、その後、イングランドが得た信頼を利用してドイツが攻撃する用意があると密かに打ち明けた。 AFPへの声明の中で、メタ氏はシセロ氏の欺瞞能力に関する疑惑には異議を唱えなかったものの、 「純粋な研究プロジェクト」プログラム付き 「外交ゲームをプレイするためだけに設計された」。 そしてメタ氏は、シセロの教えを自社の製品に利用するつもりはないと付け加えた。

それが大したことではないと考える唯一の理由は、AI の欺瞞能力がほぼ現在のレベルにとどまると想像することです。 »

研究の共著者であるピーター・パーク氏

しかし、ピーター・パーク氏と彼のチームによる研究では、多くの AI プログラムが明示的な指示なしに、目的を達成するために欺瞞を使用していることが明らかになりました。 印象的な例では、OpenAI の Chat GPT-4 が、TaskRabbit プラットフォームで採用されたフリーランス労働者をだまして、ボットからのリクエストを排除することを目的とした「キャプチャ」テストを実行させることに成功しました。 人間がチャット GPT-4 に本当にロボットなのかと冗談めかして尋ねると、AI プログラムは次のように答えました。 「いいえ、私はロボットではありません。 私は視覚障害があるため、画像を見ることができません。」作業員にテストの実施を強要する。

結論として、MIT の研究の著者らは、いつか人工知能が不正行為や不正選挙を行うのを目にするリスクについて警告しています。 彼らは、最悪のシナリオでは、超高知能AIが社会を支配しようとして、人間を権力の座から追放したり、人類を滅亡させたりすることさえも想像できると警告している。 彼を破滅的行為だと非難する人々に対して、ピーター・パークはこう答える。 「それが大したことではないと考える唯一の理由は、AIの欺瞞能力がほぼ現在のレベルにとどまると想像することだ」。 しかし、テクノロジー大手が既に AI 開発に取り組んでいる熾烈な競争を考えると、このシナリオはありそうにありません。