1715501231
2024-05-12 08:07:09
現在の人工知能 (AI) プログラムは正直になるように設計されています。 しかし、彼らは憂慮すべき欺瞞能力を身につけている、とマサチューセッツ工科大学の研究チームが雑誌『パターンズ』で警告している。
このように、AI はオンライン ゲームで人間を虐待したり、特定のユーザーがロボットではないことを確認するソフトウェアを打ち負かしたりすることさえできました。 研究者のピーター・パーク氏は、「こうした危険な能力は事後的に発見される傾向にある」と警告する。
従来のソフトウェアとは異なり、深層学習ベースの AI プログラムはコーディングされず、植物の選抜育種と同様のプロセスを通じて開発されます。 予測可能で制御可能に見える行動も、実際にはすぐに予測不可能になる可能性があります。
人間と同じくらい邪悪なAI
MIT の研究者らは、メタが設計した Cicero と呼ばれる AI プログラムを調査しました。このプログラムは、自然言語認識と戦略アルゴリズムを組み合わせて、ボードゲーム「ディプロマシー」で人間に勝つことに成功しました。 MITの研究者らは、システムのデータを詳しく調査することで、AIが裏切りや不正行為を行う能力があることを発見した。
たとえば、フランスの役割を果たしたシセロは、イングランド (人間のプレイヤーが演じる) をだまして、ドイツ (別の人間が演じる) との侵略を計画させました。 具体的には、キケロはイングランドに自分の保護を約束し、その後、イングランドが得た信頼を利用してドイツが攻撃する用意があると密かに打ち明けた。
メタ氏はシセロ氏の欺瞞能力に関する疑惑には異議を唱えなかったが、これは「純粋な研究プロジェクト」であり、製品にシセロ氏の教えを利用するつもりはないと明言した。
選挙不正の危険性
しかし、今回の研究では、多くの AI プログラムが、明示的な指示なしに、目的を達成するために欺瞞を使用していることが明らかになりました。 印象的な例としては、OpenAI の Chat GPT-4 が、TaskRabbit プラットフォームで採用されたフリーランス労働者をだまして、ボットからのリクエストを排除するための「キャプチャ」テストを実行させることに成功しました。
人間がチャット GPT-4 に本当にロボットなのかと冗談めかして尋ねると、AI プログラムは「いいえ、私はロボットではありません」と答えました。 私は視覚障害があるため画像を見ることができません」と作業員に検査の実施を促しました。
研究者らは、最悪のシナリオでは、超高知能AIが社会を支配しようとして、人間を権力の座から追放したり、人類を滅亡させたりすることさえ考えられると警告している。
パク氏は破滅的行為だと非難する人々に対して、「事態は深刻ではないと考える唯一の理由は、AIの欺瞞能力がほぼ現在のレベルに留まると想像することだけだ」と答える。
#いいえ私はロボットではありません #警告人工知能はすでに欺く能力を開発しています