[4L3-J-8] Soft computing

[4L3-J-8-02] Adversarial Example Generation using Evolutionary Multi-objective Optimization and Two-dimensional Discrete Cosine Transform

〇Takahiro Suzuki¹, Shingo Takeshita¹, Satoshi Ono¹ (1. Kagoshima University)

Keywords:Soft computing

ニューラルネットワーク（NN）の急速な進歩による物体の画像認識性能の向上は目覚ましいが，NNに基づく分類器は，意図的にモデルが誤認識するように設計した敵対的サンプルの影響を受け，正しく物体認識を行えないことがある．このような敵対的サンプルは，NNの脆弱性の把握や特性の理解を行う上で有用である．AEの生成方式の多くは，NN 内部の情報である損失関数の勾配を必要とする方式が多いが，市販のソフトウェアやサービスなど，勾配情報が利用できないブラックボックス条件下であってもAE生成のニーズは高い．このため，本研究では進化型多目的最適化を用いて敵対的サンプルを生成する手法を提案する．提案手法は，目的関数の勾配を必要としないため，ブラックボックス条件下で多様なAEを同時に生成することができる．また，摂動の量と誤認識率など，本質的にトレードオフ関係にある複数の目的関数を最適化することによりパレート解集合を導出し，多様な特性を持つAEを同時に生成することができる．また，高解像度画像に対しても多数の画素を修正するAEを生成するために，2次元離散コサイン変換を利用してAEを生成する方法についても提案する．