エンジニアリング上の課題の多くは、最終的に同じ悩みの種になります。つまり、回すノブが多すぎて、それらをテストする機会が少なすぎるのです。電力網の調整でも、より安全な車両の設計でも、それぞれの評価にはコストがかかる可能性があり、重要な変数が数百も存在する可能性があります。
自動車の安全設計を考慮します。エンジニアは何千もの部品を統合する必要があり、多くの設計上の選択が衝突時の車両の動作に影響を与える可能性があります。従来の最適化ツールは、最適な組み合わせを探すときに困難を感じる可能性があります。
MIT の研究者は、ベイズ最適化として知られる古典的な手法を使用して数百の変数を含む問題を解決する方法を再考する新しいアプローチを開発しました。電力システムの最適化など、現実的なエンジニアリング スタイルのベンチマークでのテストでは、このアプローチは広く使用されている方法よりも 10 ～ 100 倍速く最適なソリューションを見つけました。
彼らの手法は、表形式のデータでトレーニングされた基礎モデルを利用しており、パフォーマンスの向上に最も重要な変数を自動的に特定し、プロセスを繰り返して、より優れたソリューションに磨きをかけます。基盤モデルは、広大な一般的なデータセットでトレーニングされた巨大な人工知能システムです。これにより、さまざまなアプリケーションに適応できます。
研究者の表形式の基礎モデルは、解決策に向けて作業する際に常に再トレーニングする必要がなく、最適化プロセスの効率が向上します。この技術は、より複雑な問題に対しても大幅な高速化を実現するため、材料開発や創薬などの要求の厳しいアプリケーションで特に役立つ可能性があります。
「最新の AI と機械学習モデルは、エンジニアや科学者が複雑なシステムを作成する方法を根本的に変える可能性があります。私たちは、高次元の問題を解決できるだけでなく、再利用可能なアルゴリズムを 1 つ考え出しました。そのため、すべてを最初から開始する必要がなく、多くの問題に適用できます」と、計算科学と工学の大学院生であり、論文の主著者であるローゼン ユー氏は述べています。 この技術に関する論文。
Yu 氏は、元 MIT ポスドクで研究科学者のシリル・ピカード氏と、機械工学准教授で MIT 計算科学工学センターの中心メンバーであるファエズ・アーメド氏もこの論文に参加しています。この研究は、学習表現に関する国際会議で発表される予定です。
実績のある手法の改良
科学者が多面的な問題を解決しようとしているものの、各設計がどの程度優れているかを知るために自動車の衝突試験を行うなど、成功を評価するための高価な方法を持っている場合、多くの場合、ベイジアン最適化と呼ばれる実証済みの方法が使用されます。この反復手法では、予測の不確実性を考慮しながら、次に何を探索するかを推定するのに役立つ代理モデルを構築することで、複雑なシステムに最適な構成を見つけます。
ただし、代理モデルは反復ごとに再トレーニングする必要があるため、潜在的な解の空間が非常に大きい場合、すぐに計算が困難になる可能性があります。さらに、科学者は、別のシナリオに取り組みたいときはいつでも、新しいモデルをゼロから構築する必要があります。
両方の欠点に対処するために、MIT の研究者は、表形式の基礎モデルとして知られる生成 AI システムを、ベイジアン最適化アルゴリズム内の代理モデルとして利用しました。
「表形式の基礎モデルは、スプレッドシートの ChatGPT に似ています。これらのモデルの入力と出力は表形式のデータであり、エンジニアリングの領域では、言語よりも表示され、使用されることがはるかに一般的です」と Yu 氏は言います。
ChatGPT、Claude、Gemini などの大規模な言語モデルと同様に、このモデルは膨大な量の表形式のデータで事前トレーニングされています。これにより、さまざまな予測問題に対処するための設備が整います。さらに、モデルは再トレーニングを必要とせずにそのままデプロイできます。
システムの最適化をより正確かつ効率的に行うために、研究者らは、ソリューションに最も大きな影響を与える設計空間の特徴をモデルが特定できるようにするトリックを採用しました。
「自動車には 300 の設計基準があるかもしれませんが、安全性パラメータを向上させようとする場合、そのすべてが最良の設計の主な要因になるわけではありません。私たちのアルゴリズムは、焦点を当てる最も重要な機能をスマートに選択できます」と Yu 氏は言います。
これは、表形式の基礎モデルを使用して、どの変数 (または変数の組み合わせ) が結果に最も影響を与えるかを推定することによって行われます。
次に、すべてを平等に探索することに時間を浪費するのではなく、影響の大きい変数に焦点を当てて検索します。たとえば、フロントクランプルゾーンのサイズが大幅に増加し、車の安全性評価が向上した場合、その機能が強化に役割を果たした可能性があります。
より大きな問題、より良い解決策
彼らの最大の課題の 1 つは、このタスクに最適な表形式の基礎モデルを見つけることでした、と Yu 氏は言います。次に、最も顕著な設計機能を特定できるように、それをベイジアン最適化アルゴリズムに接続する必要がありました。
「最も顕著な次元を見つけることは数学とコンピューター サイエンスのよく知られた問題ですが、表形式の基礎モデルの特性を活用する方法を考え出すのは大きな課題でした」と Yu 氏は言います。
アルゴリズムのフレームワークを整備した後、研究者らはその方法を 5 つの最先端の最適化アルゴリズムと比較してテストしました。
送電網設計や自動車衝突試験などの現実的な状況を含む 60 のベンチマーク問題において、彼らの手法は他のアルゴリズムよりも 10 ～ 100 倍の速さで常に最良の解決策を見つけ出しました。
「最適化問題がより多くの次元に及ぶと、私たちのアルゴリズムは真価を発揮します」と Yu 氏は付け加えました。
しかし、彼らの手法は、ロボットによる経路計画など、すべての問題に関してベースラインを上回るパフォーマンスを示したわけではありません。これはおそらく、モデルのトレーニング データでシナリオが明確に定義されていないことを示していると Yu 氏は言います。
研究者らは将来的に、表形式の基礎モデルのパフォーマンスを向上させる方法を研究したいと考えています。彼らはまた、軍艦の設計など、数千、さらには数百万の次元の問題にも自分たちの技術を適用したいと考えています。
「事前トレーニングされた基礎モデルと高次元ベイジアン最適化を併用するこの研究で提示されたアプローチは、シミュレーションベース設計の大量のデータ要件を軽減するための創造的で有望な方法です。全体として、この研究は、高度な設計最適化をより利用しやすく、現実世界の設定での適用を容易にするための実践的で強力な一歩です。」と、ノースウェスタン大学工学設計のウィルソン・クック教授で機械工学部長のウェイ・チェン氏は述べています。彼は関与していませんが、この研究では。
#スプレッドシート用 #ChatGPTはエンジニアリング上の困難な課題をより迅速に解決するのに役立ちますマサチューセッツ工科大学ニュース