2019年度 人工知能学会全国大会(第33回)

講演情報

一般セッション

一般セッション » [GS] J-8 ソフトコンピューティング

[4L3-J-8] ソフトコンピューティング

2019年6月7日(金) 14:00 〜 15:40 L会場 (203+204 小会議室)

座長:石畠 正和(NTT) 評者:佐々木 耀一(日本電気株式会社)

14:20 〜 14:40

[4L3-J-8-02] 進化型多目的最適化と2 次元離散コサイン変換を用いた敵対的サンプルの生成

〇鈴木 崇大1、竹下 真悟1、小野 智司1 (1. 鹿児島大学)

キーワード:ソフトコンピュー ティング

ニューラルネットワーク(NN)の急速な進歩による物体の画像認識性能の向上は目覚ましいが,NNに基づく分類器は,意図的にモデルが誤認識するように設計した敵対的サンプルの影響を受け,正しく物体認識を行えないことがある.このような敵対的サンプルは,NNの脆弱性の把握や特性の理解を行う上で有用である.AEの生成方式の多くは,NN 内部の情報である損失関数の勾配を必要とする方式が多いが,市販のソフトウェアやサービスなど,勾配情報が利用できないブラックボックス条件下であってもAE生成のニーズは高い.このため,本研究では進化型多目的最適化を用いて敵対的サンプルを生成する手法を提案する.提案手法は,目的関数の勾配を必要としないため,ブラックボックス条件下で多様なAEを同時に生成することができる.また,摂動の量と誤認識率など,本質的にトレードオフ関係にある複数の目的関数を最適化することによりパレート解集合を導出し,多様な特性を持つAEを同時に生成することができる.また,高解像度画像に対しても多数の画素を修正するAEを生成するために,2次元離散コサイン変換を利用してAEを生成する方法についても提案する.