[3G5-GS-6] 言語メディア処理：

[3G5-GS-6-01] 文長制限を設けた問題文による早押しクイズ用Retrieverの学習

〇佐々木 斗海¹、小林 俊介¹、河原 大輔^1,2 (1. 早稲田大学、2. 国立情報学研究所LLM研究開発センター)

キーワード：大規模言語モデル、質問応答、クイズ

早押しクイズの解答タスクでは、Retrieverによって問題文に関連する情報を抽出し、Readerによって問題文と関連情報から答えを導き出すRetriever-Reader方式が主流である。
しかし、一般的にRetrieverの学習は問題文の全文を用いて行うのに対し、早押しクイズでは問題文の途中までの情報しか与えられないため、学習時の設定と解答時の状況に乖離がある。
この問題に対処するため、本研究ではRetrieverの学習時に用いる問題文の長さを制限し、カリキュラム学習を行う。その結果、問題文中の複数のタイミングにおいて高い性能を達成する汎用的なモデルの作成に成功した。さらに、問題文の形式による分析を行い、学習時の文長と問題文の形式の相性によってRetrieverの性能が変化することを明らかにした。