[3G1-GS-6] 言語メディア処理：

[3G1-GS-6-01] テキスト分類タスクに対する Integrated Gradients へのアブレーションテストの適用

〇剱持 壮吾¹、松崎 拓也¹ (1. 東京理科大学)

キーワード：Integrated Gradients

Integrated Gradients (IG) は機械学習の分野で広く用いられている説明手法の 1 つである．
IG の実行の際用いられるベースラインについての研究は，これまで画像処理タスクについてのものが多く，文章処理モデルについては活発な議論がされていない．本研究では，画像分類タスクで提案されている上位 k アブレーションテストをテキスト分類タスクに適用する．RACE データセットと livedoor ニュースコーパスでそれぞれ学習したモデルに対していくつかのベースラインで IG を実行し，その出力をもとにアブレーションテストを行う．その結果，使用するデータセットによって，評価が一番高いベースラインが変化することやいくつかのベースラインの評価順が完全に逆転することなど，アブレーションテストによるベースラインの評価が変化することが明らかとなった．