[3E1-GS-2] 機械学習: 説明可能AI (1)

[3E1-GS-2-01] 訓練事例が予測に与える影響の測り方の妥当性検証

〇塙 一晃^1,2、横井 祥^2,1、原 聡³、乾 健太郎^2,1 (1. 理化学研究所、2. 東北大学、3. 大阪大学)

キーワード：機械学習、解釈性、妥当性検証

機械学習モデルの予測に対して「予測に影響を与えた訓練事例」を予測の判断根拠として提示することで、ユーザの予測に対する納得感や信頼性を向上させることができる。「訓練事例が予測に与える影響」の指標として、素朴には「テスト事例と訓練事例の入力の類似度」などが考えられる他、「当該訓練事例を学習から除外した場合の予測の変化度合い」や「予測に対する勾配ベクトルの余弦類似度」など様々な指標が提案されている。本研究では影響指標が満たすべきいくつかの要件を考え、各指標が要件を満たすかどうかを調べた。結果、いくつかの指標が要件を満たさないことを実験的に確認した。