[4Yin2-23] ニューラルネットワークの知識蒸留による方程式抽出
キーワード:深層学習、蒸留
深層学習は多層のニューラルネットワークを用い,多数のパラメータで高次元にモデル化することで,従来の技術では難しいとされてきた複雑な問題もモデル化し,高い精度を得ることが出来る.一方,従来の物理法則などの方程式は現実の複雑な事象を少数のパラメータで記述できる簡便な方程式に置き換え,捉えてきた.これは深層学習でモデル化しているような,高次元の事象を重要な要素にそぎ落とし,低次元に近似していると捉えられ,深層学習における学習済みのモデルを模倣するように新たなモデルを学習させる,蒸留の枠組みと類似する.本論文ではこの考えを元に,物理法則などの方程式のデータを扱ったデータセットを扱い,多層のニューラルネットワークが学習した内容を少数のパラメータで構成されるより小さなモデルに蒸留し,それが既存の方程式の式構造と類似することを調査,確認することを目的とする.
講演PDFパスワード認証
論文PDFの閲覧にはログインが必要です。参加登録者の方は「参加者用ログイン」画面からログインしてください。あるいは論文PDF閲覧用のパスワードを以下にご入力ください。