[2L1-GS-2] 機械学習：自然言語処理

[2L1-GS-2-03] BERTによる非構造化情報を含む外部データからのテキスト生成用補足知識の抽出

〇金田 龍平¹、芳賀 大地¹、杉山 弘晃²、酒造 正樹¹、前田 英作¹ (1. 東京電機大学、2. NTT)

キーワード：BERT、対話、知識

ニューラル言語生成技術の進展により，
雑談などの非タスク指向型対話においてより自然な発話生成が可能になりつつある．
そして，自然且つ多様な発話生成を実現するためには，それまでの発話履歴を参照するだけでなく
適切な外部知識を参照して，発話文生成を行うことが必要となる．
このとき外部知識として，
タスク指向型対話で用いられる構造化された情報（例えば旅行案内対話における料金・アクセス等）に加え
BlogやWikipediaに代表される非構造化情報（同口コミテキスト等）の活用が期待される．
しかしながら，構造化／非構造化情報の混在下において
文脈に応じて適切な外部知識を選択することは必ずしも容易ではない．
そこで本研究では，BERTを利用した発話生成のための知識選択手法について検討を行い，
旅行案内ドメインを事例としてとりあげ，
適切な知識選択のための入力情報について検討を行った