科学＆テクノロジー

新しいアルゴリズムは、対称データを使用した効率的な機械学習を有効にします| MITニュース

分子構造の画像を回転させると、人間は回転した画像が依然として同じ分子であることを知ることができますが、機械学習モデルはそれが新しいデータポイントであると考えるかもしれません。コンピューターサイエンスの用語では、分子は「対称」であり、その分子の基本構造は、回転のような特定の変換を受ける場合、同じままです。創薬モデルが対称性を理解していない場合、分子特性に関する不正確な予測を行う可能性があります。しかし、いくつかの経験的な成功にもかかわらず、対称性を尊重することが保証されている良いモデルをトレーニングする計算効率的な方法があるかどうかは不明でした。MIT研究者による新しい研究では、この質問に答え、必要な計算量と必要なデータの両方の点で実証的に効率的な対称性を持つ機械学習の最初の方法を示しています。これらの結果は、基本的な質問を明確にし、対称性を処理するように設計されたより強力な機械学習モデルの開発を研究者に支援することができます。このようなモデルは、新しい材料の発見から天文学的な異常の識別から、複雑な気候パターンの解明まで、さまざまなアプリケーションで役立ちます。「これらの対称性は、性質がデータについて語っているある種の情報であり、マシンラーニングモデルでそれを考慮する必要があるため、重要です。今では、対称データを使用して機械学習を効率的に行うことができることを示しました」彼はに加わりました 紙 共同主演の著者であり、MITの大学院生であるAshkan Soleymani。 Stefanie Jegelkaは、電気工学およびコンピューターサイエンス（EECS）の准教授であり、データ、システム、Society、Society（IDSS）およびコンピューターサイエンスおよび人工知能研究所（CSAIL）のメンバーです。上級著者のパトリック・ジャイレット、デュガルド・C・ジャクソンの電気工学とコンピューターサイエンスの教授であり、情報と意思決定システム（LID）の研究室の主任研究者。この研究は最近、機械学習に関する国際会議で発表されました。対称性の研究対称データは、多くのドメイン、特に自然科学と物理学に表示されます。対称性を認識するモデルは、たとえば、そのオブジェクトがどこに配置されているかに関係なく、車のようなオブジェクトを識別することができます。機械学習モデルが対称性を処理するように設計されていない限り、現実世界の状況で新しい対称データに直面した場合、より正確ではなく、故障する傾向があります。反対に、対称性を活用するモデルはより速く、トレーニングに必要なデータが少なくなる可能性があります。しかし、対称データを処理するためのモデルをトレーニングするのは簡単なことではありません。1つの一般的なアプローチはデータ増強と呼ばれ、研究者は各対称データポイントを複数のデータポイントに変換して、モデルが新しいデータに対してより良く一般化するのに役立ちます。たとえば、新しいトレーニングデータを作成するために分子構造を何度も回転させる可能性がありますが、研究者がモデルを対称性を尊重することを保証することを望む場合、これは計算的に禁止される可能性があります。別のアプローチは、対称性をモデルのアーキテクチャにエンコードすることです。このよく知られた例は、グラフニューラルネットワーク（GNN）です。これは、設計方法のために対称データを本質的に処理します。「グラフニューラルネットワークは高速で効率的であり、対称性を非常によく処理しますが、これらのモデルが何を学んでいるのか、なぜ機能するのか誰も本当に知りません。GNNSを理解することは、私たちの仕事の主な動機であるため、データが対称であるときに何が起こるかについての理論的評価から始めました」とTahmasebi氏は言います。彼らは、対称データを使用した機械学習における統計コンパートルなトレードオフを調査しました。このトレードオフは、より少ないデータがより計算的に高価になる可能性のある方法を必要とする方法を意味するため、研究者は適切なバランスを見つける必要があります。この理論的評価に基づいて、研究者は対称データを使用した機械学習のための効率的なアルゴリズムを設計しました。数学的な組み合わせこれを行うために、彼らは問題を縮小して簡素化するために代数からアイデアを借りました。次に、効果的に対称性をキャプチャするジオメトリからのアイデアを使用して問題を再定式化しました。最後に、それらは代数とジオメトリを最適化の問題に組み合わせて、効率的に解決できるため、新しいアルゴリズムをもたらしました。「理論と応用のほとんどは、代数または幾何学のいずれかに焦点を当てていました。ここでは、それらを組み合わせただけです」とTahmasebi氏は言います。このアルゴリズムには、古典的なアプローチよりもトレーニング用のデータサンプルが少なくなり、新しいアプリケーションに適応するモデルの精度と能力が向上します。科学者が対称性のある機械学習のための効率的なアルゴリズムを開発し、それがどのように行われるかを示すことができることを証明することにより、これらの結果は、現在のモデルよりも正確でリソース集約型の新しいニューラルネットワークアーキテクチャの開発につながる可能性があります。科学者は、この分析を出発点として使用して、GNNの内部仕組みを調べることもできます。また、MIT研究者が開発したアルゴリズムとその操作がどのように異なるかを調べることもできます。「それをよりよく知ったら、より解釈可能で、より堅牢で、より効率的なニューラルネットワークアーキテクチャを設計できます」とSoleymaniは付け加えます。この研究は、一部には、シンガポール国立研究財団、シンガポールのDSO国立研究所、米国海軍研究局、米国科学財団、アレクサンダーフォンフンボルト教授によって資金提供されています。 #新しいアルゴリズムは対称データを使用した効率的な機械学習を有効にします #MITニュース