[3K1-OS-5a] データサイエンスの普及と自動化 (1)

[3K1-OS-5a-03] HMMを利用した深層学習ネットワークからの分類パターンの抽出と解釈

〇安藤 雅行¹、河原 吉伸^2,3、砂山 渡⁴、畑中 裕司⁴ (1. 滋賀県立大学 大学院工学研究科、2. 理化学研究所 革新知能統合研究センター、3. 九州大学 マス・フォア・インダストリ研究所、4. 滋賀県立大学 工学部)

キーワード：深層学習、テキストマイニング、解釈支援

深層学習には分類タスク等において，分類基準のブラックボックス問題が存在しており，解決が急がれている．テキストマイニング分野においても，分類基準を明確化することで，分類の根拠から，良い電子カルテやレポートの特徴等を解釈し，新たな知識創発への活用が期待される．一方でテキストマイニング分野において，分類基準を明確にするために，深層学習の学習ネットワークに注目する研究はほとんど見られない．そこで本研究では，文章の分類問題を題材として，LSTM(Long Short–Term Memory)の学習ネットワークからの分類基準の解釈に向け，ネットワーク中の重みを条件付き確率としたHMM(Hidden Markov Model)を適用する．そして，HMMから各分類先に寄与する特徴量の時系列パターンを抽出し，LSTMの分類基準として解釈を試みる．評価実験では，複数の物語やニュースを対象として，提案手法によって抽出された分類パターンとTF–IDF情報から作成した分類パターンとを比較した．その結果，提案手法では，TF–IDF情報から読み取れない，解釈に有効な特徴を示した分類パターンの抽出が可能であることを確認した．