[3Q1-GS-9] 自然言語処理・情報検索: 文脈解析

[3Q1-GS-9-05] 文章の流れの自然さに基づく会話文完成問題の自動解答

〇井上 裕樹¹、杉山 弘晃²、成松 宏美²、東中 竜一郎²、平 博順¹、堂坂 浩二³ (1. 大阪工業大学、2. NTTコミュニケーション科学基礎研究所、3. 秋田県立大学)

キーワード：機械読解、ロボットは東大に入れるか、自然言語処理

我々は，「ロボットは東大に入れるか」プロジェクトで英語問題の会話文完成問題に取り組んできた．疑似的に作成した問題を用い，XLNetやRoBERTaやALBERTで転移学習を行なった．モデルでは，会話文が自然であるか判別し，空欄に適切な単語を選択肢から選ぶ．評価する際に，会話文のみを入力とするよりも発話者情報を付与することで，すべてのモデルで正解率が5ポイント以上向上することがわかった．この手法で，いくつかのモデルで従来よりも高いパフォーマンスが得られた．特に，ALBERTでは0.75と非常に高い正解率を得ることができた．