[3E1-GS-2] 機械学習: 説明可能AI (1)

[3E1-GS-2-04] 言語学的手法を取り入れた機械学習モデルの局所的な説明手法

〇柳川 琢省¹、照井 文彦¹ (1. 日本IBM株式会社)

キーワード：説明可能性、機械学習、テキスト分類

近年機械学習モデルが多くのアプリケーションに活用され，モデルの説明可能性はますます重要となっている．モデルを説明する手法にLocal Interpretable Model-agnostic Explanation(LIME)という手法がある．LIMEは説明したい予測結果の入力点近傍を説明可能なモデルで近似し，近似モデルから各入力次元の寄与度を計算する．テキストを入力としたモデルにLIMEを適用する場合，入力点近傍や近似モデルを適切に定義することが重要である．例えば従来からある方法では，入力テキストの単語をランダムにドロップして近傍データを生成し，近似モデルを作成している．これは文法を考慮したモデルに対して有効でない．この問題に対して本論文では，機能語が各単語に及ぼす影響とそのpermutationによる影響をLIMEに組み込む手法を提案する．提案手法の検証のため，逆接語や否定語が考慮された感情分析モデルに対して提案手法を適用した．その結果，従来手法では難しかった機能語の影響を定量的に説明することができた．論文では，提案手法と実験の詳細および本手法が機能語の推定にも応用できることを紹介する．