[4G4-GS-2m] 機械学習：学習方略(2/2)

[4G4-GS-2m-04] 敵対的生成ネットワークのためのヤコビ行列に基づく影響推定

〇寺下 直行¹、大橋 洋輝¹ (1. 日立製作所)

キーワード：影響推定 、敵対的生成ネットワーク

学習サンプルの除外がモデルに与える影響を推定する影響推定は、教師あり学習での影響推定には成功しているが、その敵対的生成ネットワーク(GAN)への拡張は議論されてこなかった。これまでのアプローチでは、(1)学習サンプルの除外が損失値に直接影響すること、(2)損失の変化がモデルの性能に対するサンプルの影響を直接示すことが要求されていた。一方GANの学習では、(1)学習サンプルは生成器の訓練ステップに含まれず、その除外が生成器の損失値に直接影響を与えない、(2)GANの損失値は通常、モデルの生成性能を捉えていないため、通常いずれの要件も満たされない。解決のため、(1)識別器のパラメータに対する生成器の損失の勾配のヤコビアンを用いて、識別器の学習中のサンプルの不在が生成器のパラメータに与える影響を推定する手法および、(2)サンプルの除外によるGANの評価指標の変化量を推定することで、各学習サンプルの有害性を評価する新たな評価手法を提案する。実験によって、本手法がGAN評価指標の変化を正しく推定し、提示された有害なサンプルの除外が複数のGAN評価指標を向上させることを実証した。