[4Q3-OS-14] AI for Scienceにおける再現性と信頼性

[4Q3-OS-14-04] ノックオフによる画像分類器の統計的有意なコンセプトに基づく説明

〇XU KAIWEN^1,2、福地 一斗^1,2、秋本 洋平^1,2、佐久間 淳^1,2 (1. 筑波大学、2. 理化学研究所 革新知能統合研究センター)

キーワード：説明可能AI、統計的有意性、信頼可能なAI

コンセプトによる説明する分類器は，画像分類問題において，深層学習モデルの決定過程を人間が理解しやすいコンセプトで説明することができる．しかし，コンセプトに基づく説明法では，予測に無関係なコンセプトを予測タスクに重要だと判断してしまう偽陽性な解釈を生じることがある．それを防ぐため，分類タスクに統計的有意なコンセプトを発見することを目標にする．本研究では，深層学習モデルを用いて画像のコンセプトを学習し，ノックオフサンプルを用いて偽発見率 (FDR)を一定の値の下にコントロールすることで，予測に重要なコンセプトを選択する手法を提案する．提案手法は人工データと実データを用いて実験により評価を行う．また，提案手法により，FDRをコントロールしながら解釈性の高いコンセプトを選択することで，モデルの信頼性を向上させるのができることを示す．