[3G1-GS-6] Language media processing:

[3G1-GS-6-01] Application of Ablation Tests to Integrated Gradients for Text Classification

〇Sogo Kenmotsu¹, Takuya Matsuzaki¹ (1. Tokyo University of Science)

Keywords:Integrated Gradients

Integrated Gradients (IG) は機械学習の分野で広く用いられている説明手法の 1 つである．
IG の実行の際用いられるベースラインについての研究は，これまで画像処理タスクについてのものが多く，文章処理モデルについては活発な議論がされていない．本研究では，画像分類タスクで提案されている上位 k アブレーションテストをテキスト分類タスクに適用する．RACE データセットと livedoor ニュースコーパスでそれぞれ学習したモデルに対していくつかのベースラインで IG を実行し，その出力をもとにアブレーションテストを行う．その結果，使用するデータセットによって，評価が一番高いベースラインが変化することやいくつかのベースラインの評価順が完全に逆転することなど，アブレーションテストによるベースラインの評価が変化することが明らかとなった．