[2Win5] Poster session 2

[2Win5-31] The Impact of Relevant Document Distribution of Retrieval Augmented Generation on Answer Generation Performance in Open-Domain Question Answering Tasks

Atsushi Keyaki¹, 〇Yuuki Tachioka² (1.Hitotsubashi University, 2.DENSO IT Laboratory)

Keywords:retrieval augmented generation, large language models, open domain question answering, Fusion-in-Decoder

本研究では，大規模言語モデルの検索拡張生成 (RAG) において，適合文書の入力分布が解答生成性能に与える影響を調査した．
大規模言語モデルは学習の過程でさまざまな知識を獲得するが，これらの知識は多様な解答を行ううえで十分ではない．そこで，現在，大規模言語モデルに検索モジュールを組み込むことで知識を補間する RAG が盛んに取り入れられている．
本研究では，オープンドメイン質問応答タスクを対象に，適合文書の入力位置や適合文書の件数，比率といった分布が解答生成性能に与える影響を調査した．
評価実験の結果，適合情報が局所的に集約されている場合に解答生成性能を向上させることを示唆された．