[2B4-GS-6] 言語メディア処理：言語モデル

[2B4-GS-6-05] Self-Attentionによる終助詞の意味理解モデルの構築とその評価

〇萬處 修平¹、岡 夏樹¹、松島 茜¹、深田 智¹、吉村 優子²、川原 功司³ (1. 京都工芸繊維大学、2. 金沢大学、3. 名古屋外国語大学)

[[オンライン]]

キーワード：深層学習、主観的感覚、機能語

言葉と画像（視覚情報）だけの結びつけを越えたより豊かな言葉の意味理解を目指して、言葉と様々な主観的感覚（視覚を含む）の間の関係をモデルに学習させたいと考えた。このために、言語と画像に加えて様々な主観的感覚を入力とするself-attentionモデルであるSubjective BERTを提案し、特に、機能語（終助詞）の獲得に注目して、「リンゴ・だ・よ」「バナナ・だ・ね」などの発話理解を試みた。シミュレーション実験の結果、終助詞の課す制約が獲得され、内容語が学習された。