[4Q3-J-13] AI application: sensing of artifacts

[4Q3-J-13-04] Time-Smoothgrad: A Method Extracting Time-Varying Attribution For Neural Networks

〇Keisuke Kiritoshi¹, Tomonori Izumitani¹ (1. NTT Communications Corporation)

Keywords:Attribution, Visualization, Neural Network, influence Analysis

製造業を始めとする産業において，異常検知や品質予測といった文脈でニューラルネットが注目されている．実環境への適用に際し，モデルの安全性や信頼性の点からモデルがどのように予測をしているかといった解釈の必要性が叫ばれている．画像分類タスクにおけるニューラルネットへの解釈性を与える手法として逆伝播を用いたAttribution map抽出手法が存在するが，製造業などの産業で用いられるような状態が変化する時系列センサーデータや回帰問題での有用性を評価した手法は少ない．本研究では画像分類に用いられるAttribution map抽出手法の時系列データへの有用性を状態変化を含む人工データ，実データの２つの実験で示した．また，既存の手法を時系列データに対して拡張した手法Time-Smoothgradを提案し，既存の手法と比較を行った．