[2A2] 機械学習-深層学習(2)

[2A2-04] LRP法による畳み込みニューラルネットワークにおける中間層の振る舞いの可視化

酒井 博貴¹、〇亀谷 由隆¹、曽田 尚宏²、有江 浩明² (1. 名城大学、2. 株式会社デンソー)

キーワード：畳み込みニューラルネットワーク、解釈、LRP法

近年，深層ニューラルネットワークのような複雑な構造をもつ機械学習モデルの予測性能が向上し，実応用で重要な役割を果たしている．一方，それらのモデルの振る舞いが人間にとって明らかではないため，常にモデルの改善の必要性に迫られている利用者にとって，モデルの解釈が重要な課題になりつつある．本論文では畳み込みニューラルネットワークの中間層の振る舞いに注目し，LRP (layer-wise releavance propagation) 法により中間層の振る舞いの可視化を行う．この可視化により得られた幾つかの知見について報告する．