世界

AIは人類にとって実存的な脅威ではない、と新たな研究が明らかに

ドイツのバース大学とダルムシュタット工科大学の新しい研究によると、ChatGPTやその他の大規模言語モデル（LLM）は独立して学習したり新しいスキルを獲得したりすることはできないため、人類に実存的な脅威を与えることはないという。 自然言語処理における主要な国際会議である計算言語学会第62回年次会議（ACL 2024）の議事録の一部として本日発表されたこの研究は、LLMは指示に従う表面的な能力があり、言語の熟達度に優れているが、明確な指示なしに新しいスキルを習得する可能性がないことを明らかにしている。これは、LLMが本質的に制御可能、予測可能、かつ安全であることを意味する。 つまり、それらは本質的に制御可能、予測可能、かつ安全であるということです。 研究チームは、ますます大規模なデータセットで訓練されているLLMは、技術が悪用される可能性はあるものの、安全性の懸念なく展開し続けることができると結論付けた。 成長するにつれて、これらのモデルはより洗練された言語を生成し、明示的かつ詳細なプロンプトに従う能力が向上する可能性はありますが、複雑な推論スキルを獲得する可能性はほとんどありません。 「この種のAIは人類にとって脅威だという一般的な見解は、こうした技術の広範な採用と開発を妨げ、私たちが注視すべき真の問題から注意をそらす原因にもなっている」と、バース大学のコンピューター科学者で法学修士課程修了者の「出現する能力」に関する新たな研究の共著者であるハリシュ・タイヤール・マダブシ博士は述べた。 ドイツのダルムシュタット工科大学のイリーナ・グレヴィッチ教授が率いる共同研究チームは、LLMがモデルがこれまで遭遇したことのないタスクを完了する能力、いわゆる創発能力をテストする実験を行った。 一例として、LLM は、明示的に訓練またはプログラムされていなくても、社会的状況に関する質問に答えることができます。以前の研究では、これはモデルが社会的状況を「知っている」ことによる結果であると示唆されていましたが、研究者は、実際には、モデルが、提示されたいくつかの例に基づいてタスクを完了するという LLM のよく知られた能力、つまり「コンテキスト内学習」(ICL) を使用した結果であると示しました。 研究チームは何千もの実験を通じて、LLM の指示に従う能力 (ICL)、記憶、言語能力の組み合わせによって、LLM が示す能力と限界の両方を説明できることを実証しました。 タイヤール・マダブシ博士は次のように述べた。「モデルがどんどん大きくなると、現在予測できない新しい問題を解決できるようになるのではないかという懸念があり、その結果、これらの大型モデルが推論や計画などの危険な能力を獲得する恐れがある。」 「これは多くの議論を引き起こした――例えば、昨年ブレッチリー・パークで開かれたAI安全サミットでは、我々はコメントを求められた――しかし、我々の研究は、モデルが消えて全く予想外の、革新的で潜在的に危険な何かを行うのではないかという恐れは根拠がないということを示している。」 「LLMがもたらす実存的脅威に対する懸念は、非専門家に限ったことではなく、世界中のトップクラスのAI研究者の一部によって表明されている。」 しかし、タイヤル・マダブシ博士は、研究者のテストで法学修士課程の学生には複雑な推論能力が備わっていないことが明確に示されたため、この懸念は根拠がないと主張している。 「フェイクニュースの作成や詐欺のリスク増大など、AIの悪用による既存の可能性に対処することは重要だが、認識された存在的脅威に基づいて規制を制定するのは時期尚早だろう」と同氏は述べた。 「重要なのは、エンド ユーザーにとって、明示的な指示なしに複雑な推論を必要とする複雑なタスクを解釈して実行するために LLM に依存することは間違いである可能性が高いということです。代わりに、ユーザーは、モデルに実行させる必要があることを明示的に指定し、最も単純なタスクを除くすべてのタスクについて、可能な場合は例を提供することでメリットを得られる可能性があります。」 グレヴィッチ教授は次のように付け加えた。「…私たちの研究結果は、AIがまったく脅威ではないということを意味するものではありません。むしろ、特定の脅威に関連する複雑な思考スキルの出現という主張は証拠に裏付けられておらず、LLMの学習プロセスは結局のところ非常にうまく制御できることを示しています。したがって、今後の研究では、モデルがもたらすその他のリスク、たとえばフェイクニュースの生成に使用される可能性に焦点を当てるべきです。」 #AIは人類にとって実存的な脅威ではないと新たな研究が明らかに