[4I2-OS-1a] AutoML（自動機械学習）

[4I2-OS-1a-01] 変分自己符号化器を用いた探索空間の削減による高次元ベイズ最適化

〇神崎 陽平¹、石川 和樹¹、尾崎 令拓¹、烏山 昌幸¹、稲津 佑¹、竹内 一郎^2,3 (1. 名古屋工業大学、2. 名古屋大学、3. 理化学研究所)

キーワード：ハイパーパラメータ最適化、ベイズ最適化、変分自己符号化器、次元削減

ベイズ最適化は評価に高いコストがかかるブラックボックス関数の最適化に用いられる．一方で、高次元ベイズ最適化は目的関数を効率的に推定できないという問題や単位空間あたりの観測データ数が少なく勾配が平坦である点が多く獲得関数の最大化が困難であるという問題がある．本研究では、高い次元でのベイズ最適化が効率的にできるような方法を提案する．変分自己符号化器を用いて潜在空間を同定し、低次元化された潜在空間上でベイズ最適化を行う枠組みを検討する．低次元化により勾配が平坦であるという問題が解決される．また、探索空間の削減により少ないデータ数で目的関数の推定が可能になる．目的関数値が似た入力は潜在空間から入力空間に再構成される際に近い入力として再構成することで探索空間の削減を実現する．さらに、データを観測したとき、目的関数値が似ている入力は擬似的に観測されたとみなすことでより効率的に探索を行う．そして、従来の高次元ベイズ最適化アプローチと比較して効率的な探索であることを示す．