[1Win4] ポスターセッション1

[1Win4-08] ショートカット推論を抑制するニューロシンボリック手法

〇竹村 彰浩^1,2、井上 克巳¹ (1.国立情報学研究所、2.株式会社インテージホールディングス)

キーワード：論理プログラミング、ニューロシンボリック、ショートカット推論

ニューロシンボリック(NeSy)システムにおけるショートカット推論は、しばしば汎化性能を悪化させる。
本研究では、NeSyシステムで観察される2種類のショートカット、短絡的な制約充足(constraint shortcut satisfaction)と、短絡的な推論(reasoning shortcuts)を実験的に調査する。
前者は、例えば\((\neg P \vee Q)\)のような制約付きで学習されたモデルが、一方の条件(例:\(\neg P\))を優先的に充足することにより、もう一方の条件(例:\(Q\))の充足が疎かになる現象である。
後者はコンセプトの曖昧さに関連しており、コンセプトの混同が起きる状況下で学習されたモデルが、それらを適切に区別できないために推論に誤りが生じる現象を指す。
本研究では、一連の実験を通して、ニューラルモデルにおいてこれらのショートカット推論が現れる条件を特定し、NeSyシステムの頑健性を向上させるための手法や工夫について考察する。