[2P3-J-2] 機械学習: ニューラルネットワークの進歩

[2P3-J-2-01] 勾配降下法を用いたニューラルネットワークにおける局所受容野の最適化手法の提案

〇田爪 聡¹、大知 正直¹、坂田 一郎¹、森 純一郎¹ (1. 東京大学)

キーワード：ニューラルネットワークの構造探索(NAS)、受容野、汎化AI

本研究では個別のデータに応じて最適なモデルを探索する手法の設計を試みる.既存の構造探索アルゴリズムでは適用可能なデータの種類が限られている.そこで本研究では畳み込み層の受容野を入力に対して適切に対応付けることで,様々な種類のデータを畳み込みニューラルネットワークに適用することを可能とした.具体的には畳み込み層において 入力と重みを対応付けするインデックスとして受容野を解釈することで受容野を行列で表現する新たな層を設計した.またその行列を連続値に緩和することで勾配による受容野の学習を可能とした.実験の結果データ構造が未知のデータに対して提案手法が有効であることを示した. 本稿で提案した手法を用いることで,今後IoT の普及やセンサー技術の向上で増加することが予想されるビッグデータに対して,ニューラルネットワークが効果的に適用されることが期待される.