[2A2] 機械学習-深層学習(2)

[2A2-02] 疑似訓練サンプル最適化によるニューラルネットワークの少数ショット学習

〇木村 昭悟^1,2、Zoubin Ghahramani²、竹内 孝¹、岩田 具治¹、上田 修功¹ (1. 日本電信電話（株）、2. ケンブリッジ大学)

キーワード：ニューラルネットワーク、少数ショット学習、知識蒸留

本論文では，少量の訓練データのみからニューラルネットワークを学習する新しい手法を提案する．提案手法では，一般的な少数ショット学習の問題設定とは異なり，所与の少数訓練データ以外のデータ資源は仮定しない．提案手法では，少数の訓練データで学習した非NNモデルを参照モデルとして用いる知識蒸留を行うと共に，少数の訓練データから生成した大量の疑似訓練データを導入し，この疑似訓練データをモデル学習の過程で更新する．