[3Rin4] インタラクティブ1

[3Rin4-39] 再事前学習したBERTを用いた金融文書中の因果関係知識有無の判別

〇仁木 裕太¹、坂地 泰紀¹、和泉 潔¹、松島 裕康¹ (1.東京大学 大学院工学系研究科)

キーワード：因果関係抽出、自然言語処理、言語資源

本研究では, 金融文書中の因果関係知識のの有無を判別するタスクに対して, BERTを日本の金融コーパスで再事前学習した, J-FinBERTを提案する. 我々が取り組むタスクにおいて, 再事前学習が予測精度と学習データのサンプル数の少ない状況やラベルにノイズがある状況に対するロバスト性に効果があるかを検証する. 実験を通して, 再事前学習が予測精度や小さい学習データに対するロバストであることが示された.