[1J5-GS-2] 機械学習: 基礎理論 (2)

[1J5-GS-2-03] 高次元データにおける深層生成モデルの低次元表現を利用した分布外検知

〇岡本 弘野¹、鈴木 雅大¹、松尾 豊¹ (1. 東京大学)

キーワード：分布外検知

分布外検知はテスト時に訓練データの分布以外の入力サンプルを検知するタスクである．入力が低次元データであれば，訓練データを密度推定することで，密度の小さい部分を分布外であると容易に推定することができる．一方，入力が高次元データのとき次元の呪いがおこるため，密度推定は困難になり分布外検知をすることが難しい．そのため，深層生成モデルを利用して，高次元データを低次元の潜在空間上に写像し，その空間上で分布外検知をする方法を考える．しかし，モデルは訓練データ以外での学習はできないため，テスト時の訓練分布外のデータが潜在空間上においても訓練分布から離れた場所に写像される保証はない．そこで，訓練分布外のデータでも再構成できるモデルを利用すれば，そのデータが潜在空間上でも訓練分布から離れた場所に適切に写像されるという仮説をたてる．我々はそのモデルとしてVQVAEを用いることを提案する．実験では，VQVAEが訓練分布外のデータを入力として利用したとしても，もとの画像を大きく損なわずに再構成できることを確かめる．さらに，VQVAEで得られる低次元の潜在変数を利用して，分布外検知が可能であることを確かめる．