2020年度 人工知能学会全国大会(第34回)

講演情報

一般セッション

一般セッション » J-2 機械学習

[4J3-GS-2] 機械学習: 敵対的サンプルとセキュリティ

2020年6月12日(金) 14:00 〜 15:20 J会場 (jsai2020online-10)

座長:小林隼人(ヤフー株式会社)

14:20 〜 14:40

[4J3-GS-2-02] ホワイトボックス攻撃シナリオにおけるDenoising Autoencoderを用いたAdversarial Examples対策の評価

〇宮崎 将宏1、吉田 康太1、飯田 啄巳1、増田 春樹1、藤野 毅1 (1. 立命館大学)

キーワード:人口知能、デノイジングオートエンコーダ、敵対的サンプル、ガウス雑音

畳み込みニューラルネットワーク(CNN)は様々な画像認識システムに応用されている.一方で,CNNの入力に僅かな摂動を加えることで作為的に誤認識を誘発するAdversarial Examples(Adv.ex)がセキュリティ上の重要な課題となっている.このような攻撃への対策として,Denoising Autoencoder(DAE)を用いて摂動を除去する研究が行われている.しかしホワイトボックス攻撃シナリオにおいては,DAEとCNNを一つのネットワークとして扱うことでAdv.exが生成されることが知られている.本稿では,CNNに対して生成したAdv.exの摂動を除去するように学習したDAE(AdvDAE)と,ガウシアンノイズを除去するよう学習したDAE(GaussDAE)の2種類のDAEについてMNISTデータセットによる評価を行う.従来の研究で示されているように,CNNに対して生成されたAdv.exの摂動除去についてはAdvDAEの方が優れている.一方,DAEとCNNを一つのネットワークとして生成されるAdv.exでは,GaussDAEの方が大きな摂動を必要とすることが分かった.

講演PDFパスワード認証
論文PDFの閲覧にはログインが必要です。参加登録者の方は「参加者用ログイン」画面からログインしてください。あるいは論文PDF閲覧用のパスワードを以下にご入力ください。

パスワード