[2R4-OS-12] 機械学習品質評価・向上技術

[2R4-OS-12-01] ネットワーク不変量に基づく敵対的データ検出技術の実装と評価

〇西田 啓一¹ (1. 産業技術総合研究所)

キーワード：敵対的データ、ネットワーク不変量

ニューラルネットワークへの入力データに対して加えられた敵対的な摂動（敵対的データ、Adversarial Examples）の検出技術として、メトリックベースアプローチ、デノイザーアプローチ、予測不整合ベースアプローチ、ネットワーク不変量チェックアプローチなどが提案されている。本発表では、それらのアプローチのなかで最も高い検出率が報告されているネットワーク不変量チェックアプローチ（NIC法）の実用化に向けた実装法について説明し、実際に高い検出率で敵対的な摂動を検出できたことを報告する。また、NIC法が高い検出率を示す理由について考察した結果についても報告する。