世界

いいえ、AIは人類の生存を脅かしていません…少なくとも研究者によると

マトリックス、スカイネット、その他の恐ろしい人工知能は忘れてください。バース大学とダルムシュタット工科大学の研究者によると、ChatGPT やその他の言語モデルは人類に実存的な脅威を与えるものではありません。 なぜでしょうか? 簡単に言えば、これらの人工知能システムは自ら学習したり、新しい能力を獲得したりすることができないからだ、とこの新しい研究の著者は述べています。 実際、研究者らは、これらのシステムは「表面的には指示に従う能力がある」し、言語能力も優れているが、最初に具体的な指示を受けなければ新しいスキルを習得することはできないと述べている。 研究によれば、これはこれらの AI が制御可能、予測可能、かつ安全であり続けることを意味する。 したがって、著者らにとって、ますます大きなデータベースを吸収する言語モデルは、「この技術が依然として悪用される可能性があるとしても、セキュリティを恐れることなく展開し続けることができる」。 研究者たちはさらに、これらの言語モデルが成長するにつれて、より洗練されたやり取りを生成できるようになり、具体的で詳細な指示に従う能力もさらに向上するだろうが、高度な推論能力を獲得することは「ほとんどありそうにない」と述べている。 「この種のAIは人類にとって脅威だという認識が広まっているため、こうした技術の広範な導入と開発が妨げられ、私たちが注意を払うべき本当の問題から私たちの注意が逸らされている」と、この論文の共著者の一人であるハリシュ・タイヤル・マダブシ博士は述べている。 彼は同僚とともに、言語システムがまったく新しいタスク、いわゆる創発的スキルを実行する能力を判断するための一連の実験を行った。 たとえば、これらのモデルは、明示的に訓練またはプログラムされていなくても、社会的状況に関する質問に答えることができます。以前の研究では、これはモデルがそのような社会的状況について「知っていた」ためであると示唆されていましたが、研究者は、モデルがよく知られたスキル、つまり「文脈学習」と呼ばれる少数の例に基づいてタスクを実行する能力を使用しているためであると示しました。 研究チームは何千回もの試行を通じて、文脈、記憶、言語スキルにおけるこの学習の組み合わせによって、言語モデルの能力と限界を説明できることを実証したと述べている。 タイヤール・マダブシ博士は次のように指摘しています。「モデルが大きくなるにつれて、まだ予測できない問題を解決できるようになるのではないかという懸念があります。AI モデルが推論や計画などの懸念すべき能力を獲得した場合、脅威となります。」 「これは多くの議論を引き起こしたが、我々の研究は、これらの言語モデルが全く予想外の、革新的で潜在的に危険な何かを達成するという脅威は根拠がないことを実証している」と研究者は付け加えた。 「フェイクニュースの作成や詐欺のリスク増大など、濫用の潜在的可能性に対処することは重要だが、認識された存在的脅威に基づいて法律を可決するのは時期尚早だろう」とタイヤル・マダブシ博士は述べた。 後者は、具体的な指示なしに言語モデルに頼って複雑な推論を実行するのは「おそらく間違い」であり、そのような AI システムにコマンドを送信するときにはできるだけ多くの詳細を提供する方が良いと考えています。 弊社のニュースレターを購読する コーヒー一杯分の料金で私たちを支援してください #いいえAIは人類の生存を脅かしていません...少なくとも研究者によると