[4J3-GS-2] 機械学習: 敵対的サンプルとセキュリティ

[4J3-GS-2-03] 単眼深度推定器に対する敵対的事例の進化的生成の試み

〇大毛 廉也¹、鈴木 崇大¹、小野 智司¹ (1. 鹿児島大学大学院)

キーワード：単眼深度推定、敵対的事例、進化計算、深層ニューラルネットワーク

近年，単眼深度推定はニューラルネットワーク(NN)との組み合わせにより性能が向上し実用に向けての期待が高まっている．しかし近年，NNには特有の脆弱性があり，誤分類等を引き起こす敵対的攻撃が可能であることが明らかにされている．このため，単眼深度推定を対象としたNNにおいても同様の脆弱性の存在が懸念され，これを明らかにすることは実用化に向けて不可欠な課題である．そこで，本研究では，進化計算を用いて単眼深度推定器の誤りを引き起こす敵対的事例を生成する方式を提案する．提案手法は進化型多目的最適化を用いることで，目視で判断した奥行と深度推定器が出力した奥行に相違が生じるような敵対的事例の生成を試みる．また，NN内部の情報および信頼度スコアを必要とせず，ブラックボックス的に敵対的事例を生成できる点に特徴があり，商用システムの解析にも有効である．評価実験により，NNを利用した単眼深度推定器は敵対的事例により影響を受け，深度推定の精度低下を起こし得る事を確認した．