[3Xin2-78] 日本語対話コーパスを用いた大規模言語モデルの
対話行為に基づく QLORA チューニングによる発話制御
キーワード：対話システム、大規模言語モデル、深層学習
対話システムはルールベースから深層学習に至る進化を遂げ，大規模言語モデルにより実用性が高まった．対話システムはユーザ発話理解，対話管理，システム発話生成の3つの部分で構成される．また，対話システムにはタスク指向型と雑談型があり，本研究では雑談対話システムに焦点を当て，発話の意図を表す対話行為に基づきシステム発話を制御する方法を探求する．対話行為に基づく発話制御のために，対話行為タイプを伴う日本語対話コーパスとしてHazumiコーパスを用いて，対話行為タイプ毎に異なるプロンプトを用いたシステム発話のQLORAチューニングを大規模言語モデルに適用する．そして，実験により，対話行為タイプ毎のプロンプトの変更と同一のプロンプトの適用の影響を比較する．また，QLORAチューニングの効果をチューニングなしのモデルでのプロンプトを用いた発話制御と比較評価する．実験の結果，対話行為タイプ毎に異なるプロンプトを用いたQLORAチューニングが発話制御に効果があることが確かめられた．一方，QLORAチューニングを行わない場合には，対話行為タイプ毎にプロンプトを変更する効果は限定的であった．
講演PDFパスワード認証
論文PDFの閲覧にはログインが必要です。参加登録者の方は「参加者用ログイン」画面からログインしてください。あるいは論文PDF閲覧用のパスワードを以下にご入力ください。