[3A1] [General Session] 2. Machine Learning

[3A1-04] Enhancing Visual Explanation of Deep Neural Networks by Activation Freezing

〇Satoshi Hara¹ (1. Osaka University)

Keywords:Deep Learning, Interpretability, Explanability

深層学習モデルはその複雑な内部のネットワーク構造がゆえに、モデルがどのような認識機構に基づいて画像認識を行っているかを人間がうかがい知ることはできない。このモデルのブラックボックス性を緩和して説明性を高めるために、特に画像認識の分野において視覚的な説明性を向上させる方法の研究が進めらている。これら視覚的な説明では、深層学習モデルが画像中のどの領域を根拠に認識を行なっているか、その認識対象を特定してハイライトする。本研究では鮮明なハイライトを得るための前処理方法として活性固定化を提案する。活性固定化ではまず前処理として深層学習モデルの認識に寄与している主要な構造だけを残して、残りの非主要部を枝刈りする。その後で既存の視覚的説明法でハイライトを生成する。このように前処理として活性固定化によりモデルの非主要部を枝刈りすることで、非主要部に由来するノイズを除去した鮮明なハイライトを生成できる。