[3L5-GS-11] AIと社会

[3L5-GS-11-04] 極値理論を用いた顕著な畳み込みフィルターの発見

〇王 朔¹、佐藤 一誠¹ (1. 東京大学大学院情報理工学系研究科)

キーワード：説明可能な人工知能、極値理論、畳み込みニューラルネットワーク、異常検知

顕著性マップは、深層学習モデルの挙動を視覚的に理解するのに役立つため、研究者から注目されてきた。しかし、これらのマップは必ずしも画像の誤分類につながるピクセルを反映しているとは限らない。本研究では、パラメータ空間に着目してこの問題に取り組み、極値理論に基づいてCNN内の誤動作している畳み込みフィルタを特定するアルゴリズムを提案する。本手法の数学的な理解を述べるとともに、本アルゴリズムの有効性を示す実験結果を報告する。