一見本物に見える: AI が生成した組織像: E-HEALTH-COM

専門家でも人工的に生成された組織切片画像を確実に識別することはできない

生物医学研究の評価への挑戦

X 線や MRI 画像の評価、医師の手紙の作成、研究における測定データの評価に役立ちます。人工知能 (略して AI) は、臨床現場や生物医学研究において役立つ強力なツールとなります。非常に強力なので、大学や研究機関は科学で使用するための推奨事項やガイドラインを策定しています。

イエナ大学病院の作業グループによって行われた実験は、これがいかに正当であるかを強調しています。研究チームは、公開されている深層学習アルゴリズムである安定拡散を使用して、トレーニング データから新しい組織学的画像を作成しました。研究リーダーのラルフ・ムロウカ教授は、「我々は、マウス腎臓の染色組織の実際の断面画像を3枚と15枚をトレーニング画像として使用しました」と語る。 「たった 3 枚のオリジナル画像に基づいて、非常に説得力のある画像が作成されました。」

研究チームはオンライン調査で、AIが生成したこれらの組織像が本物の組織像と区別できるかどうかをテストした。調査参加者800人以上は、医学生など組織画像の評価経験があるか否かによって、専門家と一般人に分けられた。彼らには、16 枚の個別の画像 (本物の画像と AI が生成した画像 8 枚) が次々に表示され、次の画像が表示される前に各画像を分類する必要がありました。

科学論文内の偽データを検出する新しい方法が必要
専門家グループは 3 分の 2 を正確に分類しました。信徒グループがこれに成功したのは、事件の半分強だけでした。どちらのグループも、より少ないトレーニング データに基づいて、より頻繁に AI 画像のマスクを解除することができました。専門家グループの 10 人の参加者は、すべての画像を正しく認識しました。すべての写真グループと参加者グループにおいて、ほとんどの決定は最初の 30 分以内に行われました。 「また、正しい割り当てが間違った割り当てよりも大幅に速く行われたことも確認できました」と筆頭著者の Dr. は言います。 Jan Hartung、「知覚に基づく意思決定の一般的なモデルと一致する観察。」

ラルフ・ムロウカ: 「私たちの実験は、経験が偽の画像を認識するのに役立つことを示しています。しかし、それでも、人工画像のかなりの部分は確実に識別されません。」「画像を改ざんしようとする人にとって、技術的なハードルは比較的低いです」と Jan Hartung 氏は強調します。 「アルゴリズムをトレーニングするのに何百ものサンプルは必要ありません。数十個あれば十分です。著者チームは、これは認識する必要があり、科学論文内の偽データを検出するための新しい方法が必要な科学の課題であると考えています。」 。

オリジナル出版物

Hartung, J.、Reuter, S.、Kulow, VA 他専門家は、AI によって生成された組織学的データを確実に検出できません。 Sci Rep 14、28677 (2024)。 https://doi.org/10.1038/s41598-024-73913-8

出典：イエナ大学病院