[TS1] チュートリアルセッション

[TS1-01] Transformerの最前線 〜 畳込みニューラルネットワークの先へ 〜

*牛久 祥孝¹ (1. オムロンサイニックエックス株式会社)

2017年に機械翻訳を対象として提案されたTransformerは、従来の畳込みや再帰を排して自己注意機構を活用したニューラルネットワークである。2019年頃からコンピュータビジョン分野でも急速に応用が進んでおり、より柔軟かつ高精度なネットワーク構造としての地位を確立しつつある。本チュートリアルでは、Transformerおよびその周辺のネットワーク構造について、コンピュータビジョンへの応用を中心とした最前線を概説する。