[1Z2] 機械学習-機械学習基礎(2)

[1Z2-01] CMA-ESを用いたニューラルネットワークの重み行列の最適化における頑強性の検証

〇清水 洸希¹、小宮山 純平²、豊田 正史² (1. 東京大学、2. 東京大学生産技術研究所)

キーワード：進化計算、最適化、機械学習

ニューラルネットワークの評価に用いられるデータセットは，学習データに対して正しい教師ラベルが付与された，ラベルノイズの小さなデータセットであると言えるが，実世界におけるデータは必ずしもそうではない．ニューラルネットワークの重みの最適化手法の1つであるCMA-ESは，一般的に頑強性が高いと言われているが，その検証が実際に行われることは極めて少ない．本稿では，学習データの教師ラベルについて一定の割合でランダムに書き換えることによって，ラベルノイズの大きなデータセットを人為的に作り出し，それを用いてCMA-ESと，ニューラルネットワークの最適化において最もよく用いられるSGDとの最適化精度の比較を行った．