[3I4-GS-7a] 画像音声メディア処理：基礎

[3I4-GS-7a-01] 畳込み行列の安定ランクを用いた深層学習モデル構造探索

〇町田 兼梧¹、宇都 有昭¹、篠田 浩一¹、鈴木 大慈^2,3 (1. 東京工業大学、2. 東京大学 大学院情報理工学系研究科、3. 理研 革新知能統合研究センター)

キーワード：人工知能、深層学習、深層学習モデル構造探索、DARTS; Differentiable Architecture Search、安定ランク

現在，深層学習は画像処理，音声認識，自然言語処理などの分野で広く用いられている．深層学習モデルの構造の自動最適化を行うモデル構造探索(Neural Architecture Search; NAS)が盛んに研究されている．我々は，畳込み層の安定ランクを選択基準として用いて構造探索を行う，MSR-DARTS(Minimum Stable Rank Differentiable Architecture Search)を提案する．畳込み層のパラメータ行列における安定ランクはモデルの汎化性能と関連しており，精度の高いモデルを獲得できることが期待できる．評価実験では，探索空間に含まれる各モデルは複数の畳込み層により構成されるものとし，CIFAR，ImageNetデータセットを用いた画像分類タスクで評価を行った．それぞれ2.80%，24.0%のテストエラー精度を達成した．