科学原則に従いながら、離散空間拡散モデルデータを作成

このプロジェクトの犬研究主任であるチャーリーは、離散空間拡散アプローチのテスト画像の対象者でした。左は、ピクセル全体のチャーリー。右側では、このアプローチにより、元のピクセルのみを使用して画像に完全にノイズが含まれています。これは、科学的原理を尊重する拡散アプローチをトレーニングするための重要なステップです。クレジット: ロスアラモス国立研究所 ロスアラモス国立研究所の研究者は、生成 AI モデルの限界に対処する新しいアプローチを開発しました。生成拡散モデルとは異なり、チームの離散空間拡散アプローチは科学的および物理学の原理を尊重しています。研究チームは、地下岩石の微細構造とリチウムイオン電池の電極という 2 つの挑戦的な科学的応用でモデルを検証し、有望な結果をもたらしました。 「現在、生成拡散モデルは美しい画像を作成しますが、科学データをモデル化するために必要な前提条件である現実世界の科学に基づいた制約を尊重していません」とロスアラモス大学の科学者であり、この研究の筆頭著者であるハビエル・E・サントスは述べた。 「私たちは、総質量の会話などの制約に厳密に従う最初の実際の物理的拡散プロセスを開発したため、科学、技術、産業の課題に対処するのに応用可能です。」 生成拡散モデルは通常、連続強度で動作し、ピクセルとカラー チャネル全体で独立して拡散するため、画像の作成には役立ちますが、離散量を含むアプリケーションには適していません。しかし、離散空間拡散アプローチでは、すでに利用可能な離散量 (粒子数や物質の単位など) を使用してデータを生成するモデルをトレーニングするため、科学にとって興味深いトピックを正確に表現できます。 拡散モデルへの新しいアプローチ 生成拡散モデルは、元のデータが純粋なノイズになるまでトレーニング データ (画像など) にノイズを追加し、その後ノイズ処理を逆にすることによって、新しいデータを生成します。その過程で、モデルは新しいイメージを作成するためにデータを回復する方法を学習します。このアプローチは、加算ノイズを使用することにより、閉鎖系では物質を生成したり破壊したりできないという物質保存の科学原則に違反します。 離散空間拡散モデルは、順方向のノイズ追加プロセスと逆方向のノイズ除去プロセスの両方で粒子数を保存します。このアプローチでは、モデルがすでに利用可能な情報のみを使用して画像を生成することが求められます。空間拡散の採用により、粒子の保存 (これを実現した最初の離散拡散モデル) が達成されると同時に、予測モデルの予測能力の背後にある数学に役立つ確率性、つまりランダムな変動が導入されます。 チームは、機械学習の文献で一般的に使用されている標準ベンチマーク データセットを使用してアプローチを評価しました。初期検証では、このモデルが CIFAR-10 (犬、猫、乗り物など 10 のオブジェクト カテゴリのデータセット) および CelebA (人間の顔のデータセット) からの画像を再現できることが実証されました。特に、このモデルは固定ピクセル数の離散空間で動作しながらこれを達成しましたが、これには重大な技術的課題があります。 その後、彼らは地下岩石の微細構造を用いた離散空間拡散アプローチの検証に移りました。多孔質岩石の 3 つの挑戦的なデータセットを使用してモデルをテストしたところ、このモデルは物質保存原理に従った現実的な画像サンプルを生成する能力を証明しました。これは、石油やガスの探査、炭素隔離などの産業用途にとって潜在的に価値のあるツールです。 チームはまた、次のデータセットでモデルを検証しました。 リチウムイオン電池の電極、電気が構造内をどのように移動するかなど、電極の特徴を示す画像を生成します。検証では、電極の構造忠実度だけでなく、現場で使用されている定量的測定基準も一致しました。この洞察は、研究者がリチウムイオン電池のより効果的な構造を開発するのに役立つ可能性があります。 ロスアラモスの科学者であり、このプロジェクトの主任研究員であるイェン・ティン・リン氏は、「私たちの離散空間拡散モデルは、深く研究され、すでに生物学や地質学などの分野の研究を支えているモデルに基づいて構築されています」と述べた。…