[4A2-GS-6] 言語メディア処理

[4A2-GS-6-01] 焦点ベクトルによる文脈を考慮した物語文の自動生成

〇秋山 陸¹、寺岡 丈博¹ (1. 拓殖大学大学院)

キーワード：物語生成、焦点ベクトル、GPT-2

近年，大規模言語モデルの発展により，文章生成の精度は飛躍的に向上した．しかし，それらをもってしても，流れの破綻がなく魅力的でオチのある物語文の生成を行うことは難しいとされている．このような物語文を自動生成しようとすると，入力プロットを用意したり，出力を整形したり，といった膨大な人手のコストを要することが多い．そこで本研究では，流れの破綻がなくオチのある物語文をなるべく自動化された方法で生成するために，大規模言語モデルGPT-2からの出力を単文ごとに補正する手法を提案した．ここでは，既存の童話に対して単文ごとに焦点ベクトルの推移を自動で取得してプロットとし，GPT-2モデルの出力をそのプロットに沿う形で補正する．これにより，GPT-2の生成の流暢さに童話の物語性を強く加えることができると考えられる．実験では，提案手法による生成文と，2種類のベースライン（事前学習のみGPT-2，童話でファインチューニングしたGPT-2）の生成文に対し，自動ならびに人手で評価を行った．これらの結果から，提案手法を用いることで，人手によるコストを少なくしながらも物語性の強い文章の生成を行えることを確認した．