[2Q3-J-2] 機械学習: 説明性と知識獲得

[2Q3-J-2-01] 解釈可能性をもたらすヒートマップの変化に着目した過剰学習がCNNにもたらす影響の検討

〇古澤 嘉久¹、田和辻 可昌^3,2、松居 辰則² (1. 早稲田大学人間科学部、2. 早稲田大学 人間科学学術院、3. 早稲田大学 大学院人間科学研究科)

キーワード：深層学習、解釈可能性、可視化

Convolutional Neural Network(CNN)は, 画像認識をはじめとする多くの研究に使われているが, その解釈可能性に関しては問題視されている.そのため多くの既往研究により, 入力画像のヒートマップを作成することで, この解釈可能性を補うような研究が進められてきた.そして,それらの手法は全て学習済みのモデルのみで評価をされており,学習過程に注目したものはない.これは,Early Stoppingなどの指標に基づき学習を止めたものを最適なモデルとして選択しているためである.しかし,既往研究により分類問題に関しては学習を続けるほど(過剰学習),精度が上昇することが報告されており,Early Stoppingでは精度の面からは,最適なモデルを選択できない可能性が示唆された.そこで本研究では,学習過程でのヒートマップの変化に着目することで,過剰学習が及ぼす影響を検討した.結果として,ヒートマップはEarly Stoppingにより選択したものとは異なる画像として出力されるようになり,出力層のエントロピーと正解クラスの予測確率が不安定になる傾向が見られた.