[2G1-GS-11] AIと社会：

[2G1-GS-11-05] 自然言語で記述された物体の外見的特徴と画像の類似度に基づく敵対的サンプルの検出

〇吉成 勇人¹、ユ テツ²、福地 一斗³、佐久間 淳^1,2 (1. 東京工業大学、2. 理化学研究所、3. 筑波大学)

キーワード：AIセキュリティ、敵対的サンプル

敵対的サンプルの検出は重要な課題である．本研究では，敵対的サンプルが元画像と見た目が似ていることと．人間は物体を判別する際に用いる物体の外見的特徴に着目する。Cifar-10とTiny-ImageNetを用いた実験により、提案手法がブラックボックス設定において一定の検出性能を達成することを示した．また，Tiny-ImageNetにおいて，敵対的サンプルを検出する際に，物体の外見的特徴を用いることでクラスラベルでクラスの特徴を表すよりもより高い性能を発揮することを確認した．また，ノーボックス設定でもブラックボックス設定と大差ない性能を示すことを確認した．