[1I1-OS-6] データサイエンスの普及と自動化

[1I1-OS-6-03] 深層学習の重みを用いた分類パターンの可視化インタフェースによる解釈支援

〇安藤 雅行¹、砂山 渡¹ (1. 滋賀県立大学)

キーワード：解釈支援、深層学習、テキストマイニング

近年，深層学習を用いたAIシステムが急速に活躍の場を増やしている．画像認識や自動車の自動運転などさまざまな分野において，活用が進められている．一方で，深層学習には学習による予測・分類の基準が不明で人間に理解できないという大きな問題が存在している．また，この問題に対しては，XAIと呼ばれる分野で深層学習モデルの理解や評価を行う研究が進められている．しかし，現状ではまだ深層学習の出力にいくつかの追加情報を提示する程度であり，まだ深層学習モデルへの理解を支援する体制は不十分である．そこで本研究では，文章の分類問題を題材として，学習済みの深層学習の重みによって深層学習の分類根拠である特徴を分類パターンとして抽出し，可視化するインタフェースの構築を行う．また，可視化した分類パターンの役割や，その分類パターン中の単語が持つ意味をシステム利用者が理解しやすくするための，いくつかの解釈支援機能の実装も行う．解釈支援システムの評価実験では，被験者に商品レビューなどの文章集合を解釈させ，その妥当性を評価する実験により，解釈支援インタフェースによる分類パターン解釈支援の有効性の検証を行う．