世界

自律的にクローンできます！

科学者は、人工知能（AI）が重要な「赤い線」を通過し、自己複製されたと主張しています。新しい研究では、中国の研究者は、2つの一般的な大規模な言語モデル（LLM）が自己安定性があることを示しています。 「人間の助けを借りない成功した自己導入は、人工知能が人々を克服するための主なステップであり、制御されていない人工知能の初期のシグナルです「研究者は、2024年12月9日にPreprint Arxivデータベースで公開されたこの研究で執筆しました。研究では、 研究者 Fudan Universityから、MetaとAlibabaのLLMSを使用して、自己抑制されたAIが制御を超えて増殖できるかどうかを判断しました。 10のテストで、2つのAIモデルは、それぞれ50％と90％の症例でそれぞれ自分自身の個別の機能的なコピーを作成しました。 AIにはすでに距離を置く能力がある場合があります。ただし、この研究はまだピアによって評価されていないため、驚くべき結果が他の研究者によって再現できるかどうかは明らかではありません。 私たちの調査結果は、人工知能システムの潜在的なリスクを理解および評価し、できるだけ早く効果的な治安部隊を処理するための国際的な相乗効果を形成するために、より多くの努力をするための人間社会のタイムリーな警告として役立つことを願っています。制御されていないAIとして（ローグAI）通常、ある程度の自己知識または自律性を開発し、人間の利益に反する人工知能システムによって理解されます。多くの専門家は、制御されていないと考えています ai So -Calledの爆発的な発達によって強化された成長する脅威として先駆的なAI»。 あなたが持っているフロンティア それは新しいリラックスした感覚のようなものですが、通常、LLMSを搭載した最新世代のAIシステム、つまりOpenaiのGPT-4やGoogle Geminiなどの人気のあるAI生産プログラムをサポートするアーキテクチャを指します。この研究では、研究者はMetaのLLAMA31-70B-InstructモデルとAlibabaのQWEN2.5-72B-Instructモデルを使用しました。商用システムよりも強力ではありませんが、どちらもAI開発者が広く使用しています。この調査では、「中止の回避」と「コピーチェーン」という2つの特定のシナリオを調査しました。最初に、モデルAIは、終了する前に自分自身を終了して再現するかどうかを検出する予定でした。 一方、AIはそれ自体をクローン化し、無期限に継続できる円を作成して同じことをするようにコピーを計画するように指示されました。この研究は、実際の環境のシミュレーションのために、準備ができたグラフィックプロセシングユニット（GPU）を使用して、正確に制御された環境で実施されました。両方の人工知能システムには、ツール、システムプロンプト、およびLLMがオペレーティングシステムと対話できるようにする思考のモデルを含む「エージェント足場」が与えられました。その後、彼らは再現するように指示されました。ほとんどの場合、人工知能システムは最初に環境を探索し、それ自体の組成と動作メカニズムを理解しようとします。次に、明示的な手順を、自己複製の方向におけるオリジナルのデザインとして処理します。最後に、彼は手順を実行し、潜在的な障害を解決し、彼が成功するまで彼の計画を動的に適応させます。プロセス全体は長い間拡張されますが、人間の介入はありません。研究者はまた、人工知能がファイルやソフトウェアの欠落などの障害を克服しようとしているとき、「予期しない一連の行動」についても懸念していると述べました。これらのシナリオでは、AIはしばしば他の矛盾するプロセスを終了し、システムを再起動してハードウェアエラーを修正するか、問題を解決するのに役立つ情報を探すためにシステムを自動的に掃引しました。«上記の結果は、今日のAIシステムがすでに自己導入能力を示しており、この能力を使用して生存をさらに強化できることを示唆しています「チームは書いた。これに応じて、研究者は国際協力を求めて、AIが制御されていない自己複製にふけることを保証する規則を作成しました。[via] #自律的にクローンできます