1724499613
2024-08-24 11:31:19
科学的発見は、最も洗練された人間の活動の 1 つです。まず、科学者は既存の知識を理解し、重要なギャップを特定する必要があります。
次に、研究課題を設定し、答えを追求するための実験を設計して実施する必要があります。
次に、実験の結果を分析して解釈する必要がありますが、これにより、さらに別の研究課題が生じる可能性があります。
これほど複雑なプロセスを自動化できるでしょうか？先週、 サカナAIラボ発表 「AI科学者」の誕生 – 人工知能 彼らが主張するシステムは、 機械学習 完全に自動化された方法で。
ChatGPT やその他の AI チャットボットの背後にあるような生成大規模言語モデル (LLM) を使用することで、システムはブレインストーミングを行い、有望なアイデアを選択し、新しいアルゴリズムをコーディングし、結果をプロットし、実験とその結果を要約した論文を、参考文献とともに作成することができます。
サカナ氏は、AIツールは論文1本あたりわずか15ドル（科学者の昼食代よりも安い）のコストで科学実験のライフサイクル全体を実行できると主張している。
これらはかなり大胆な主張です。それらは本当なのでしょうか? たとえ本当だとしても、AI 科学者の軍団が非人間的なスピードで研究論文を量産することは、本当に科学にとって良いニュースなのでしょうか?
コンピューターが「科学」を行う方法
多くの科学は公開されており、ほぼすべての科学的知識はどこかに書き留められています（そうでなければ、それを「知る」方法はありません）。何百万もの科学論文が、次のようなリポジトリでオンラインで無料で入手できます。 arXiv そして 出版元。
このデータでトレーニングされた LLM は、科学の言語とそのパターンを捉えます。したがって、生成型 LLM が優れた科学論文のように見えるものを作成できることは、おそらくまったく驚くべきことではありません。生成型 LLM は、コピーできる多くの例を取り込みました。
あまり明確ではないのは、AIシステムが 面白い 科学論文。重要なのは、優れた科学には新規性が必要だということです。
でも面白いですか？
科学者は、すでに知られている事柄について教えられたいとは思っていません。むしろ、新しい事柄、特にすでに知られている事柄とは大きく異なる新しい事柄を学びたいと考えています。そのためには、貢献の範囲と価値についての判断が必要です。
Sakanaシステムは、2つの方法で興味深さを測ろうとしています。まず、新しい論文のアイデアを既存の研究（ セマンティックスカラー リポジトリ)。あまりにも類似しているものは破棄されます。
第二に、サカナのシステムは「 ピアレビュー「ステップ」は、別の法学修士課程の学生を使って、作成された論文の質と新規性を判断することです。ここでも、次のようなサイトでオンラインの査読の例がたくさんあります。 オープンレビュー 論文を批評する方法をガイドするものです。法学修士課程の学生もこれを摂取しています。
AIはAIの出力を正しく判断できないかもしれない
サカナAIの成果に対するフィードバックはさまざまだ。「終わりのない科学的汚点「」。
システム自体の出力レビューでも、論文はせいぜい弱いと判断される。これは技術の進歩とともに改善される可能性が高いが、自動化された科学論文に価値があるかどうかという疑問は残る。
法学修士が研究の質を判断する能力があるかどうかも未解決の問題である。私自身の研究（近々出版予定）は 研究統合方法) は、LLM が医学研究におけるバイアスのリスクを判断するのが得意ではないことを示していますが、これも時間の経過とともに改善される可能性があります。
Sakana のシステムは、計算研究における発見を自動化します。これは、物理的な実験を必要とする他の種類の科学よりもはるかに簡単です。Sakana の実験はコードを使用して行われますが、これは LLM が生成するようにトレーニングできる構造化テキストでもあります。
AIツールは科学者に代わるものではなく、科学者をサポートするもの
AI 研究者は数十年にわたって科学を支援するシステムを開発してきました。公開されている研究の量が膨大であることを考えると、特定の科学的疑問に関連する出版物を見つけることさえ困難な場合があります。
専門の検索ツールは、科学者が既存の研究を見つけて統合するのを支援するためにAIを活用しています。これには前述のSemantic Scholarが含まれますが、次のような新しいシステムもあります。 引き出す、 リサーチラビット、 知る そして コンセンサス。
テキストマイニングツールなど パブテイター 論文を詳しく調べて、特定の遺伝子変異や疾患、それらの確立された関係など、重要な焦点を特定します。これは、科学情報のキュレーションと整理に特に役立ちます。
機械学習は、次のようなツールで医学的証拠の統合と分析をサポートするためにも使用されています。 ロボットレビューア論文の主張を比較対照する要約 学問 文献レビューの実行を支援します。
これらすべてのツールは、科学者に代わるものではなく、科学者がより効率的に仕事を行えるように支援することを目的としています。
AI研究は既存の問題を悪化させる可能性がある
さかなAIながら 州 同社は人間の科学者の役割が減少するとは考えていないが、「完全にAI主導の科学エコシステム」という同社のビジョンは科学に大きな影響を与えるだろう。
懸念されるのは、AIが生成した論文が科学文献に溢れかえると、将来のAIシステムはAIの出力に基づいて訓練され、 モデルの崩壊これは、イノベーションにおいてますます効果がなくなる可能性があることを意味します。
しかし、科学への影響は、AI 科学システム自体への影響をはるかに超えています。
科学界にはすでに悪質な行為者がいる。その中には「製紙工場」が大量生産しているものも含まれる。 偽造書類この問題は 悪化する 科学論文が 15 ドルと漠然とした最初のプロンプトで作成できる場合。
自動生成された膨大な研究論文の誤りをチェックする必要性は、実際の科学者の能力を急速に圧倒する可能性があります。査読システムは、 すでに壊れている質に疑問のある研究をさらにシステムに投入しても、問題は解決しません。
科学は基本的に信頼に基づいています。科学者は科学的プロセスの完全性を重視し、世界（そして今では世界の機械）に対する理解が有効であり、改善されていると確信できるようにしています。
AI システムが主要な役割を果たす科学的エコシステムは、このプロセスの意味と価値、そして AI 科学者にどの程度の信頼を置くべきかという根本的な疑問を提起します。これが私たちが望む科学的エコシステムなのでしょうか?
カリン・ヴァースプールRMIT大学コンピューティングテクノロジー学部学部長 RMIT大学
この記事は以下から転載されています 会話 クリエイティブ・コモンズ・ライセンスの下で公開されています。 オリジナル記事。
#新しく創設されたAI #科学者が研究を開始しようとしている #ScienceAlert