1719903857
2024-07-02 06:48:27
データのローカリゼーションによるスパースな敵対的摂動に対する堅牢性の証明
著者: アンバー・パル、 ルネ・ビダル、 ジェレミアス・スラム
要約: 敵対的ロバスト性に関する最近の研究では、自然なデータ分布は局所的であること、つまり、入力空間の小さなボリューム領域に高い確率が置かれること、そしてこの特性を利用して、ℓ2 制限摂動に対する堅牢性保証が向上した分類器を設計できることが示唆されています。しかし、この観察がより一般的なメトリックに当てはまるかどうかはまだ不明です。本研究では、この理論を ℓ0 制限敵対的摂動に拡張します。この場合、攻撃者は画像の数ピクセルを変更できますが、摂動の大きさには制限がありません。また、ℓ0 堅牢な分類器が存在するための必要かつ十分な条件を示します。この領域での理論的な認証アプローチは、基本的に、大規模な分類器のアンサンブルに対する投票を採用しています。このような手順は組み合わせ的で高価であるか、複雑な認証技術を必要とします。 対照的に、Box-NN と呼ばれる私たちの理論からは単純な分類器が生まれ、これは問題の形状を自然に取り入れ、MNIST および Fashion-MNIST データセットに対するスパース攻撃に対する認定された堅牢性において現在の最先端技術を向上します。
#敵対的摂動に関する新しい手法 #part10機械学習 #Monodeep #Mukherjee #著 #年 #月