[1P4-GS-6] 言語メディア処理：基礎

[1P4-GS-6-01] 日本語処理用深層学習器における脆弱性を検証する敵対的攻撃の基礎検討

〇河野 竜士¹、玉城 大生¹、小野 智司¹ (1. 鹿児島大学大学院)

[[オンライン]]

キーワード：敵対的攻撃、敵対的事例、日本語、機械学習、字種変換

深層ニューラルネットワーク（Deep Neural Network：DNN）は，入力に微小な変動を加えた敵対的事例（Adversarial Examples：AE）により，誤分類を引き起こしうることが明らかにされている．本研究では，日本語処理用DNNにおける脆弱性の検証を目的として，入力文を構成する単語において，ひらがな，カタカナ，漢字の間で表記を変換することで摂動を付与する日本語に特化した敵対的攻撃手法を提案する．評価実験の結果，字種間の変換により，日本語処理用DNNにおいて誤認識が生じることを確認した．