[3S1-GS-2] Machine learning:

[3S1-GS-2-03] Utilization of NAVIGATOR for Efficient Construction of Architecture Embedding Spaces

〇Kazuki Hemmi¹, Yuki Tanigaki², Masaki Onishi³ (1. University of Tsukuba, National Institute of Advanced Industrial Science and Technology, 2. Osaka Institute of Technology, 3. National Institute of Advanced Industrial Science and Technology, University of Tsukuba)

Keywords:AutoML, Neural Architecture Search, Graph Neural Network, AI, Deep Learning

Neural Architecture Search（NAS）はデータや目的に応じてニューラルネットワークの構造を自動的に探索・最適化するAutoMLの手法である．
NASの探索効率を高めるには，アーキテクチャを適切に特徴量として捉え，潜在空間に効果的に埋め込む方法が重要となる．
近年，Graph Neural Networkを活用するNAVIGATORがアーキテクチャ特徴量の抽出手法として提案されているが，入力空間の表現力や埋め込み後の潜在空間の特性は未だ不明である．
そこで本研究では，NASBenchにNAVIGATORを適用して多様な構造に対する潜在特徴量空間を獲得し，埋め込み前後の入出力関係を分析することで構造の潜在特徴量空間の妥当性および有効性を調査する．
また，NAVIGATORのエンコーダに精度予測機構を導入し，予測精度を考慮した潜在特徴量空間への変換を実現する．埋め込み後の潜在空間の詳細を分析し，効率的な埋め込み空間を構築することで，よりデータやタスクに適したアーキテクチャを生成するための新たなNAVIGATORの活用方法を示す．