[4I1-GS-7] 画像音声メディア処理：

[4I1-GS-7-03] Layer-Wise Relevance Propagation for ResNet：保全公理を満たす視覚的説明生成

〇小槻 誠太郎¹、飯田 紡¹、デュブレ フェリックス¹、平川 翼²、山下 隆義²、藤吉 弘亘²、杉浦 孔明¹ (1. 慶應義塾大学、2. 中部大学)

キーワード：視覚的説明生成、Layer-Wise Relevance Propagation、ResNet

深層学習が幅広い分野に応用されている現代において，深層学習モデルの説明性は重要であり，透明性の高い説明生成が望ましい．透明性の高い説明生成手法として寄与度を逆伝播して説明を生成するLayer-wise Relevance Propagation (LRP) が挙げられるが，本手法はスキップ接続を持たないモデルのみに適用されており，スキップ接続を持つモデルに適用すると保全特性が満たされず，説明の品質も悪い．そこで本論文では，スキップ接続を持つモデルにおける保全特性を満たした寄与度の逆伝播の計算方法を提案し，LRPをスキップ接続を持つモデルに適用できるよう拡張したLRP for ResNetを提案する．CUB-200-2011データセットにおいて評価を行い，提案手法は保全特性を満たしつつ，Insertion ScoreおよびDeletion Scoreにおいて既存手法を上回った．