人工知能の研究には行き詰まりの問題がある、学者らは「めちゃくちゃだ」と語る。人工知能 (AI)

ある人物がこう主張している 執筆された 113件の学術論文 人工知能 今年はそのうちの 89 件が今週、AI と機械学習に関する世界有数の会議で発表される予定で、AI 研究の現状についてコンピューター科学者の間で疑問が生じています。

著者のケビン・ジュー氏は、 最近 終了した カリフォルニア大学バークレー校でコンピュータ サイエンスの学士号を取得し、現在は高校生向けの AI 研究および指導会社 Algoverse を経営しています。その多くが論文の共著者です。朱さん自身も2018年に高校を卒業した。

彼が持っている書類 出す 過去 2 年間では、AI を使用して 遊牧民を見つける サハラ以南のアフリカでは、 皮膚病変を評価する、そしてへ 翻訳する インドネシアの方言。彼は自身の LinkedIn で、「OpenAI、Microsoft、Google、Stanford、MIT、Oxford などによって引用されている」「過去 1 年間で 100 以上のトップカンファレンスの論文」を出版していると宣伝しています。

バークレー校のコンピューターサイエンス教授、ハニー・ファリド氏はインタビューで、朱氏の論文は「大惨事」だと語った。 「私は、上から下まですべてが単なるバイブコーディングであるとかなり確信しています」と彼は、AI を使用してソフトウェアを作成する実践について言及しました。

ファリド氏は最近の LinkedIn で、朱氏の多作な出版物に注目を集めた 役職これは、AI研究者の間で他の同様の事例についての議論を引き起こし、彼らの新たに人気のある分野は、学術的な圧力や、場合によってはAIツールによって煽られて、質の低い研究論文の氾濫に直面していると述べた。

ガーディアン紙からの質問に答えて、朱氏は131の論文を監督したと述べ、これらは彼の会社アルゴバースが運営する「チームの取り組み」であったと述べた。同社は、カンファレンスへの作品提出の支援を含む、12 週間のオンライン メンタリング体験の選択料金として、高校生と大学生に 3,325 ドルを請求しています。

「少なくとも、私は提案書の方法論と実験計画のレビューを手伝い、提出前に論文草案全文を読んでコメントします」と同氏は述べ、言語学、医療、教育などのテーマに関するプロジェクトには「関連する専門知識を持つ主任研究者や指導者」が関与していると付け加えた。

論文がAIで書かれたかどうかに関する質問に答えて、チームは「文献管理やスペルチェックなどの標準的な生産性ツール、そして場合によってはコピー編集や明瞭性の向上のための言語モデル」を使用していたと同氏は述べた。

混乱に陥るボットウォッチャー

AI 研究の審査基準は、他のほとんどの科学分野とは異なります。 AI や機械学習の研究のほとんどは、化学や生物学などの分野の厳格な査読プロセスを経ず、その代わりに論文は、次のような主要な会議であまり形式的に発表されないことがよくあります。 NeurIPS、世界トップクラスの機械学習と AI の集まりの 1 つで、Zhu 氏はそこで講演する予定です。

ファリド氏は、朱氏の事例はAI研究におけるより大きな問題を示していると述べた。 NeurIPS を含むカンファレンスは、増加傾向にあり、混雑しています。 数字 投稿数：NeurIPS は今年、21,575 件の論文を提出し、2020 年の 10,000 件未満から増加しました。もう 1 つのトップ AI カンファレンスである学習表現国際会議 (ICLR) は、2026 年のカンファレンスに向けた年間投稿数が 70% 増加し、20,000 件近くの論文数に達したと報告しました。 11,000 2025年の会議に向けて。

「査読者らは論文の質の低さに不満を漏らしており、一部はAIによって生成されたものではないかとさえ疑っている。なぜこの学術的な饗宴は味を失ってしまったのだろうか?」中国のテクノロジーブログ36Krに質問した。 11月の投稿 ICLRについては、査読者が論文に与えた平均スコアが前年比で低下していることを指摘した。

その一方で、学生や学者は出版物を集めて同僚に遅れをとらないようにするというプレッシャーの増大に直面しています。学者らによると、1年に3倍どころか2桁の質の高いコンピュータサイエンス論文を生み出すことは珍しいという。ファリド氏は、時には生徒たちが論文の出版数を増やすために「雰囲気をコーディング」した論文を作成することがあると言います。

「非常に多くの若者がAIに参入したいと考えています。今、熱狂的な状況にあります」とファリド氏は語った。

バージニア工科大学のジェフリー・ウォーリング准教授によると、NeurIPSは提出された論文を審査するが、そのプロセスは標準的な科学査読よりもはるかに迅速で、徹底的ではないという。今年のカンファレンスでは、 使用済み 多数の博士課程の学生が論文を精査する必要があり、NeurIPS 領域委員長は、それがプロセスを危険にさらしていると述べた。

「現実には、多くの場合、会議の審査員は短期間に数十の論文を審査しなければなりませんが、通常、改訂はほとんどまたはまったくありません」とウォリング氏は述べた。

ウォーリング氏は、現在出版されている論文が多すぎるというファリド氏の意見に同意し、1年間に100本以上の出版物を出版している他の著者にも出会ったと述べた。 「学者は質よりも出版物の量で報われます…誰もが超生産性という神話を愛しています」と彼は言う。

Zhu 氏の Algoverse の FAQ ページでは、同社のプログラムが応募者の将来の大学やキャリアの見通しにどのように役立つかについて回答があり、「ここで達成したスキル、成果、出版物は学界で高く評価されており、実際に大学への出願や履歴書を強化することができます。これは特に、あなたの研究が一流の会議に参加した場合に当てはまります。プロの研究者にとっても名誉ある偉業です。」と述べています。

ファリド氏は現在、AI研究分野には「熱狂」しており、キャリアの見通しを良くしたいと願う人々によって質の低い研究が大量に出されているため、学生にはAI研究には行かないようアドバイスしていると語った。

「それはただの混乱です。追いつくことも、出版することも、良い仕事をすることも、思慮深いこともできません」と彼は言いました。

スロップフラッド

このプロセスからは今でも多くの優れた作品が生まれています。有名なところでは、変圧器に関する Google の論文、 必要なのは注意力だけです ChatGPT につながった AI の進歩の理論的基礎は、2017 年の NeurIPS で発表されました。

NeurIPS 主催者は、カンファレンスがプレッシャーにさらされていることに同意しています。ガーディアン紙へのコメントの中で、広報担当者は、分野としてのAIの成長が「論文投稿数の大幅な増加と、NeurIPSでの査読受理の価値の高まり」をもたらし、「当社の審査システムにかなりの負担」をかけていると述べた。

NeurIPS主催者によると、Zhu氏の応募は主にNeurIPS内のワークショップへのもので、主要なカンファレンスとは異なる選考プロセスがあり、多くの場合、初期のキャリアの作品が発表される場となっている。ファリド氏は、これでは一人の人物が100以上の論文に自分の名前を載せることの実質的な説明にはならないと述べた。

「あなたが有意義に貢献したはずのない100本の論文にあなたの名前を載せるという説得力のある議論とは思えません」とファリド氏は語った。

この問題は、NeurIPS での論文の洪水よりも大きいです。 ICLR 使用済み ネイチャー誌の最近の記事によると、AI が大量の投稿をレビューし、その結果、明らかに幻覚のような引用や「箇条書きが多く非常に冗長」なフィードバックが得られたという。

衰退感が非常に広範囲に広がっているため、危機の解決策を見つけること自体が論文の主題となっている。あ 2025 年 5 月のポジションペーパー – 新聞の論説の学術的で証拠に基づいたバージョン – 3人の韓国のコンピュータ科学者が執筆し、「査読の質と査読者の責任に対する懸念の高まりを伴う、論文投稿の急増による前例のない課題」に対する解決策を提案し、2025年機械学習国際会議で優秀作品賞を受賞した。

一方、ファリド氏によると、大手テクノロジー企業や小規模なAI安全組織は現在、arXiv（かつてはほとんど閲覧されなかった数学や物理学の論文のプレプリント用に予約されていたサイト）に研究成果を捨てており、科学として提示されているが審査基準の対象ではない研究成果がインターネットに溢れているという。

その代償として、AIで実際に何が起こっているのかを、ジャーナリストや一般人、さらにはその分野の専門家でさえも知ることがほぼ不可能であることだとファリド氏は言う。「科学文献で何が起こっているのかを理解しようとする平均的な読者には、チャンスがまったくありません。信号対雑音比は基本的に1です。私はこれらの会議に行って、一体何が起こっているのか理解することはほとんどできません。」

「私が学生たちに言いたいのは、論文の出版を最適化しようとしているのなら、それは正直に言って、それほど難しいことではないということです。本当にくだらない低品質の仕事をして、それで会議を爆破するだけです。しかし、本当に思慮深く慎重な仕事をしたいのであれば、事実上一方的に武装解除されているため、不利な立場にあります。」と彼は言った。