[1G3-GS-2b] 機械学習：最適化

[1G3-GS-2b-05] 複数の損失関数を用いた深層生成モデルの訓練と制約付きブラックボックス最適化への適用

〇阪本 直気^1,2、佐藤 怜^1,2、福地 一斗^1,2、佐久間 淳^1,2、秋本 洋平^1,2 (1. 筑波大学、2. 理研AIP)

キーワード：制約付きブラックボックス最適化、制約対処法、深層生成モデル、ショートカット接続

制約付きブラックボックス最適化において，制約を満たす実行可能領域が離散的で，かつ制約を満たす実行可能解の獲得すら困難な問題設定では，従来の制約対処法では目的関数の最適化は困難を極める．本稿では，パラメータ空間を殆ど制約の無い単純な空間へと変換する手法を提案する．詳述すれば，入力空間Zから実行可能領域Xへの写像であるDecoder G: Z -> Xを作成し，このGの入力空間Zをパラメータ空間とすることで前述の変換を実現する．空間Zの景観が複雑になることを防ぐために，Decoder Gの訓練に使用する損失関数は，各点の写像前後でそれぞれの位置関係が極力維持されるような設計になっている．多数の離散領域への複雑な写像を実現するために，Decoder GはShortcut Connectionを備えた小さなニューラルネットワークモデル (NN) を複数個繋げた設計になっており，各NNに対して損失関数が定義されている．これにより，深層生成モデルで問題となるモード崩壊が防がれている．実験では，パラメータ空間に対する実行可能領域の体積比が10^-7未満であるテスト問題を用いて提案法の有用性を示す．