[3G4-GS-6] Language media processing:

[3G4-GS-6-03] Improving the Performance of Multi-label Classification Method Based on Transformer Language Model for Japanese Aspect-based Sentiment Analysis

〇Taisei Nishimoto¹, Naoki Mori², Makoto Okada² (1. Osaka Prefecture University, 2. Osaka Metropolitan University)

Keywords:ABSA, BERT, Deep Learning

多ラベル分類の一種であるアスペクトベース感情分析は文章にさまざまなアスペクト (観点) に基づく感情極性を付与するタスクであり，大規模なデータを活用するにあたり有用なタスクである．本研究では楠本が提案した Transformer 言語モデル BERT を主に用いたアスペクトベース感情分析モデル Mpm+T の改良手法を提案する．Mpm+T は複数の小分類器とそれらを要約して出力するメタモデルで構成されている．各小分類器は観点の個数に基づいて複数用意され，各観点の有無とその評価を推定する BERT ベースの 2 値分類器であり，それら小分類器の出力ベクトルをメタモデルが集約して多ラベル分類する．本研究では，小分類器の出力ベクトルのメタモデルへの入力のための集約手法を複数用意することでモデル全体の予測精度の向上を図った．さらに各小分類器の内部構造が等しい点に着目して，小分類器に対してモデルマージを適用することにより，メタモデルで用いる小分類器の数を節減を図った．そして実験により予測精度の劣化を抑えた学習効率と推論効率の向上を検証した．