[3Xin2-61] 計算代数の諸問題におけるTransformerの推論能力の検証
キーワード：Transformer、計算代数、機械学習
近年，強力な深層学習モデルであるTransformerを利用して代数計算を行う研究が進んでいる．この研究は因数分解の計算を学習するならば，展開された多項式と因数分解された多項式のペアを用いてTransformerを訓練し多項式の因数分解の結果を推論する．過去の研究ではLWE問題の計算やグレブナー基底計算のようなNP困難な問題に対しても有効性が確認されている．しかしながら，過去の研究では代数計算に関して個々に検証するのみに留まっており，Transformerの代数的性能を網羅的に評価できていない．本研究では計算代数の諸問題に対してTransformerを用いて取り組むことで計算代数分野におけるTransformerの有効性を網羅的に検証する．具体的には，GCDや因数分解といった計算問題や多項式の因数の数を予測する問題に対してエンコード方式やアーキテクチャ，多項式の係数などを変更してTransformerを訓練する．これらの検証からTransformerの代数問題における正答率はエンコード方式に依存すること，多項式の係数が有限体よりも整数である場合に性能が向上することを発見する．
講演PDFパスワード認証
論文PDFの閲覧にはログインが必要です。参加登録者の方は「参加者用ログイン」画面からログインしてください。あるいは論文PDF閲覧用のパスワードを以下にご入力ください。