13:30 〜 13:50
[3J3-OS-3a-01] マルチスタートを用いた局所探索手法による深層学習のハイパパラメータ最適化
キーワード:ハイパパラメータ最適化、局所探索、深層学習
深層学習の性能は学習モデルなどが持つハイパパラメータ(調整の必要なパラメータ)に強く依存することが知られている.学習モデルの性能を最大限に発揮するためのテクニックの一つとしてハイパパラメータ最適化がある.深層学習のハイパパラメータ最適化において,Nelder-Mead法が最適化手法の中で少ない評価回数でよいハイパパラメータの組み合わせを探索したことが報告されている.しかし,Nelder-Mead法は単体を用いた局所探索手法であるため,悪質な局所解に陥ってしまう可能性があり,この問題はNelder-Mead法を複数の異なる初期点から実行するマルチスタートを活用することで緩和できると言われている.本論文では,複数の深層学習のハイパパラメータ最適化にてマルチスタートによる効果を調査する.得られた結果より,マルチスタートを適用することでNelder-Mead法の探索性能は適用しない場合に比べ改善された.
講演PDFパスワード認証
論文PDFの閲覧にはログインが必要です。参加登録者の方は「参加者用ログイン」画面からログインしてください。あるいは論文PDF閲覧用のパスワードを以下にご入力ください。