1765730837
2025-12-14 16:05:00
世界最大手の学術出版社の 1 つが、存在しないジャーナルへの参照を含む、偽の引用が満載とみられる AI インテリジェンス研究の倫理に関する本を販売しています。
学術出版業界は最近、高い基準を保証する査読プロセスを通過したAIを利用して作成された不正論文を受け入れたとして批判にさらされている。
タイムズ紙は、ドイツとイギリスの大手出版会社シュプリンガー・ネイチャーが最近出版した本に、創作されたと思われる引用が数十件含まれていることを発見した。これは、多くの場合、AI によって生成された内容の兆候である。
本 — 生成 AI の社会的、倫理的、法的側面 — このテクノロジーによって引き起こされる倫理的ジレンマに関する権威あるレビューとして宣伝されており、125 ポンドで販売されています。少なくとも 2 つの章には、発明されたと思われる科学出版物を引用する脚注が含まれています。
ある章では、11件の引用のうち8件が検証できず、70パーセント以上が捏造された可能性があることが示唆された。
この発見は、本物の学術研究を模倣しようとするAIツールによって引用や研究論文全体が生成されることについて学界内で懸念が高まる中で発表された。
4月、シュプリンガー・ネイチャーは別の技術タイトルを取り下げた – 機械学習をマスターする: 基本から高度まで — 多数の架空の参照が含まれていることが判明した後。
タイムズ紙が分析した最近の本の中で、ある引用文は「ハーバード AI ジャーナル」に掲載された論文を参照していると主張しています。ハーバード・ビジネス・レビューは、そのような雑誌は存在しないと述べた。
トゥールーズ大学のコンピューターサイエンス准教授で、偽の学術論文検出の専門家であるギョーム・カバナック氏は、捏造された参考文献を特定するように設計されたツール「BibCheck」を使用して 2 つの章を分析した。
彼は、第 1 章の引用 21 件のうち少なくとも 11 件が既知の学術論文と一致しないことを発見しました。この分析では、第 4 章の 11 件の引用のうち 8 件が追跡不可能であることも示唆されました。
「これは研究不正行為です。参考文献の改ざんと捏造です」とカバナック氏は述べた。彼はそのような事例を追跡しており、学術文献全体で AI が「幻覚を起こした」引用が着実に増加しているのを目にしていると述べています。
ニューメキシコ州立大学のネイサン・キャンプ博士によって行われた別の調査でも、同様の結論に達しました。 AI によって生成された偽の引用の増加を研究してきたキャンプ氏は、AI 倫理の本の中に多数の誤った引用、不一致の引用、または完全にでっち上げられた引用を発見しました。
場合によっては、異なる本物の紙の詳細が結合されたように見えました。他の 6 章は正確であるように見えました。各章は異なる著者によって書かれています。
キャンプ氏は、「使用された引用がAIによって生成されたものであるかどうかを明確に確認することは困難だが、良く言えば誤りであることは確かであり、捏造されている可能性が高く、引用を捏造する最も簡単な方法はAIを使用することである」と述べた。
シュプリンガー・ネイチャーの応用科学書籍担当副社長ジェームズ・フィンレー氏は、「当社は出版コンテンツの完全性に関するいかなる懸念も真剣に受け止めている。当社の研究公正性専門チームはこの件を最優先で調査している」と述べた。
同氏は、「当社の整合性チームは編集者と協力し、専門知識と検出ツールを使用して基準を遵守し、整合性の問題を事前に発見します。ただし、少数はすり抜ける可能性があります。」と付け加えた。
#AI倫理ガイドに偽の引用が見つかり出版社が非難を浴びる