[4J3-GS-2] 機械学習: 敵対的サンプルとセキュリティ

[4J3-GS-2-01] 1クラス分類器に対する敵対的サンプルの有効性について

〇小関 義博¹ (1. 三菱電機株式会社　情報技術総合研究所)

キーワード：敵対的サンプル、深層学習

敵対的サンプルとは、摂動を加えることで分類器が誤った結果を出力するように生成された入力であり、この種の入力を生成する攻撃手法は実世界におけるAIシステムのセーフティとセキュリティを守るうえで重要な懸念事項となっていることから、近年活発に研究が行われている。本研究では、従来の敵対的サンプル攻撃の対象となってきた多クラス分類器ではなく、1クラス分類器に対する敵対的サンプル攻撃の有効性を示す。具体的には、Fast Gradient Sign Method攻撃をVariational Autoencoderをベースとした1クラス分類器に対して実行した結果を示す。