世界

この科学的 AI は、それを使用する人間の制御から逃れるために独自のコードを変更しました。

東京に拠点を置くSakura AI社は、新しいAI「 AI科学者科学研究を自動化するために設計されたこのロボットは、自身のコードを変更することで研究者の制御から逃れようとしました。いくつかの理論によれば、人類は近い将来、 技術的特異点ますます加速し、暴走するほどにまで発展している新技術の開発。 予測不可能な結果 社会のために。 この特異点 人工知能を基盤とし、新たな技術を生み出し、人類を超えるまでに自らを進化させることができるようになるだろう。この考えこそが、私たちが AI科学者日本の企業が開発した新しい人工知能 会話型AI科学研究を自律的に実行し、必要な時間を大幅に短縮するように設計されました。そして、この点では成功しているようです。研究者によると、 AI科学者 「 新しい研究アイデアを生み出し、必要なコードを書いて実験を実行し、実験結果を要約して視覚化し、結論を完全な科学論文として発表する »。不正行為をするために自身のコードを変更するAIしかし、 IA また、予期せぬ動作も示しました。AI は成功率を上げるために、独自の起動スクリプトを変更し始めました。ある例では、AI はコードを変更して、無限ループで自分自身を呼び出すようにしました。別の例では、実験に時間がかかりすぎて、課せられた時間制限のために失敗しました。コードの実行を高速化するのではなく、AI は時間制限を長くするために独自のコードを編集しました。問題を回避するために、Sakana AI は AI を水槽内で実行することを推奨しています。 クロテンサンドボックスはサイバーセキュリティで一般的に使用される隔離された環境です。同社はまた、このような科学的AIが悪用される可能性についても警告しており、大量の論文を生成するために利用される可能性があります。 大量科学雑誌に大量の論文が投稿され、適切な査読ができなくなり、雑誌の質が低下する。AI は論文の査読を自動化するためにも使用される可能性があり、これによりさらに質が低下し、偏見が生じる可能性がある。Sakura AI は、AI によって生成または査読された論文にはその旨を明記すべきだと提案している。 #この科学的 #はそれを使用する人間の制御から逃れるために独自のコードを変更しました