[3E5-GS-2] 機械学習: 説明可能AI (2)

[3E5-GS-2-01] スパース局所線形モデルのニューラル生成器

〇吉川 友也¹、岩田 具治² (1. 千葉工業大学、2. NTT)

キーワード：解釈性、深層学習、局所線形モデル

機械学習の信頼性のために、機械学習による予測が解釈可能であることは重要である。一般に、深層ニューラルネットワーク (DNN) は高精度な予測が可能だが、なぜDNNがそのような予測結果を出力したのかを解釈することが困難である。一方で、線形モデルの解釈は容易ではあるが、現実のデータはしばしば非線形であり、そのようなデータに対して予測性能が悪くなる傾向にある。
本研究では、DNNと線形モデルの長所を組み合わせるため、スパース局所線形モデルのニューラル生成器を提案する。提案法では、元表現事例（例: 単語列）とその簡易表現事例 (例: 単語のbag-of-words) を入力として扱うDNNを用いて、各事例に対して疎な線形重みを生成する。元表現事例からDNNで特徴抽出することにより、その重みには高精度の予測が可能な情報が含まれるようになる。その上、予測式は簡易表現事例と疎な線形重みの内積で表現されるため、予測結果の解釈は容易である。実験では、予測性能の評価と生成された疎な線形重みを可視化することにより、提案法が定量的にも定性的にも有効であることを示す。