09:20 〜 09:40
[3J1-GS-6a-02] 自然言語処理における常識推論の精度向上要因に関する一考察
最近のベンチマーク・タスクにおける言語的要因をつうじて
キーワード:知識表現、常識推論、自然言語処理、語用論、知識ベース
ここ数年でBERTやRoBERTaを主としたTransfomer派生モデルの発展は目覚ましく,機械翻訳や自動要約,文章自動生成など自然言語処理のあらゆる分野で実用化されている.これらを支えるのに知識表現や推論があり,ロボットなどの機械に一般常識を取り入れることで,情報検索や質問応答の精度向上を目指す動きが活発になっている.本研究では,BERTを中心とする動きが確立しつつある中で,コーパスの向上が本質的価値を提供するものとして,言語的な側面から,どの要因が精度向上に寄与し,また一方で不足しているかを考察するものである.特に,常識推論の領域は,国際的なベンチマーク・タスクが中心となっているが,限られたデータセットの分布で作られるため,言語モデルが限定的限ではないかという批判も常に受けている.この中で,各タスクのリーダーボードの中身を点検する必要がある.WikipediaやConceptNetなどは書き言葉の常識推論(Commonsense Reasoning)で精度が上がると見込めるが,相互行為のある話し言葉の対話に,常識推論をどうしたらとけ込めるかも言語的に提案したものである.
講演PDFパスワード認証
論文PDFの閲覧にはログインが必要です。参加登録者の方は「参加者用ログイン」画面からログインしてください。あるいは論文PDF閲覧用のパスワードを以下にご入力ください。