ニセ科学の危機がどのようにして AI で生成された巨大なラットのペニスを生み出したのか

• アン AIが生成した 先月、そびえ立つ男根付属器を持つネズミの画像が半ウイルスになった。
• このナンセンスな図は、フロンティアズ誌に掲載された、現在は撤回された科学論文に掲載されました。
• このネズミは、研究出版というキャリア主導のビジネスにおける偽物の危機の兆候です。

これ ねずみ には巨大な「dck」があり、それはより大きな問題の兆候です。

あなた 科学者である必要はない ネズミには球根状の空高くまで伸びるペニスがないことや、「テストトムセル」、「レタット」、「ディシル化された」などの言葉が全くの意味不明であることを知る必要がある。

それにも関わらず、以下の偽の図は、科学雑誌「Frontiers in Cell Development and Biology」によって先月出版された論文に掲載されました。

Guo et al.、2024; 細胞発生生物学のフロンティア

名誉のために言っておきますが、同誌はすぐに論文を撤回しました。 しかし、それは AIが生成した画像 オンライン科学コミュニティではすでに話題になっていました。 彼らは自分のものさえ持っていました ページ あなたのミームを知りましょう。

Guo et al.、2024; 細胞発生生物学のフロンティア

しかし、このネズミのそびえ立つ男根は、危機の兆候の 1 つにすぎません。 偽科学。

「本当に奇妙な論文が出版されるのを見るのが初めてなら、それがなぜあなたの注目を集めるのかわかります」と監視ジャーナリズムサイト「Retraction Watch」の共同創設者であるイワン・オランスキー氏はBusiness Insiderに語った。 しかし彼にとって、「現時点ではそれはすべて、気の遠くなるような日常のことだ」と彼は言う。

悪い科学と奇妙なAIは査読という「スイスチーズ」をどうやって乗り越えるのか

ピーター・フィンチ/ストーン/ゲッティイメージズ

Frontiers は、査読プロセスを備えた影響力のあるオープンアクセス出版社です。 では、この論文はどのようにして出版にこぎ着いたのでしょうか?

フロンティアズのような出版社が科学者の原稿を受理すると、その論文は一連の査読者の批判的な目を通過します。 主題の専門家、査読を評価する編集者も同様です。 通常、研究著者は出版前に査読者のフィードバックに基づいて変更を加える必要があります。

査読プロセスをスイスチーズの山のように考えてください。 各ステップには穴があり、 悪い科学はすり抜ける可能性がある、しかし、重なったステップはお互いの穴を覆いがちで、プロセス全体を通して最後まで絞るのが困難になります。

それでも、悪い科学は時々、そして何年にもわたって通り抜けます。 穴 開いてきました。 科学者は製紙工場から合成紙を購入できるようになりました。

前例もあります AIのスロップ 科学出版で。 2014 年、出版社 Springer と IEEE 撤回された コンピューターによって生成された意味不明な記事が 120 件以上ありました。 出版大手シュプリンガー・ネイチャー 撤回された 2021年の意味不明な論文44枚。

さらに、ジャーナル編集者への賄賂、データの改ざん、または 実際の画像を操作する またはデータ。

これらの悪い習慣は実際の結果をもたらす可能性があります。 イベルメクチンまたはヒドロキシクロロキンが新型コロナウイルス感染症の治療に有望であると認めた初期の治験は、後に詐欺の兆候として撤回されたが、その言葉はすでに世に出ており、誤った情報による自己治療の波が続いた。 ヴォックスが報じた。 新型コロナウイルス感染症を超えても、捏造された研究は医薬品研究に使用されるデータベースに保存される可能性があります。 ガーディアン紙が報じた。

「レタット」「dck」の怪事件

「テストトムセル」を持ったラットの場合、査読者の一人が画像について懸念を表明し、論文著者に修正を要求したとフロンティアーズは述べている。

フロンティアーズ誌の編集長フレッド・フェンター氏は、Business Insiderに電子メールで送った追加声明の中で、「この記事は、通常はすべての査読者のコメントに対処することを保証する著者のコンプライアンスチェックをすり抜けた」と述べ、これは「人的ミス」であると電子メールで述べた。

同氏は、フロンティアーズが「この種の不正行為を発見するための新しいチェック」を追加し、何が許可されていないのかを明確にするためにAIポリシーを改訂し、「AIが生成したコンテンツや画像を検出するAI」を開発していると述べた。

「科学分野でAIを不適切に利用する悪意のある者たちはますます良くなるだろうし、私たちもどんどん良くならなければならないだろう。これは、ハッカーの新たな手口を阻止するためにサイバーセキュリティが絶えず改良されているのと似ている」とフェンター氏は語った。

1月にはフロンティアーズ 発表された 従業員の30％を解雇し、600人を削減する予定だ。

「品質は我々の最優先事項であり、最近の組織再編は査読プロセスや著者のコンプライアンスチェックには影響しない」とフェンター氏は述べた。

撤回された論文の責任著者であるDingjun Hao氏はBusiness Insiderのコメント要請に応じなかった。

なぜ一部の科学者は質の悪い論文を発表するのか

ジャーナルはビジネスであり、科学者は キャリア。 どちらも頻繁に出版するという強いプレッシャーにさらされています。

オランスキー氏によると、ほとんどの採用委員会と在職期間委員会は、研究者が発表した論文の数、権威ある雑誌に掲載されたかどうか、他の科学者が自分の研究をどれだけ引用したかに基づいて研究者を評価しているという。

「人々は出版することに必死で、出版して仕事や仕事を維持するためにしなければならないことは何でもします。 昇進するオランスキー氏は、「それがここでの本当の問題だ」と語った。

ある報告書によると、昨年、研究雑誌はこれまで以上に1万件以上の科学論文を撤回した。 報告 Nature誌に掲載されました。

撤回は悪いことばかりではない。 実際、ピアレビューでデータエラーや無責任な行為を見つけられなかった場合に必要です。

しかし、この記録的な撤回率は、一部の科学者が急いで捏造したり、 AIの助けを借りて生成する。

「卑劣だ」とオランスキー氏はネズミとその「デッキ」について語った。 しかし、彼は続けた、「太陽の下では新しいことは何もない」。

オランスキーにとって、解決策は明らかだ。 世界中の科学機関は、研究の幅ではなく質に基づいて科学者を評価する必要があります。 彼が提案した評価基準は? 良い論文を 3 つ紹介します。

「私たちがしなければならないのは、出版物や引用をすべての指標として使うのをやめるということだ」と彼は言う。 「それらはすべてゲーム可能です。3 つの優れた論文はゲーム可能ではありません。」