[3H1-GS-10] AI応用：Human-in-the-Loop

[3H1-GS-10-01] Concept Bottleneck構造を持つ三層線型神経回路網のベイズ汎化誤差解析とマルチタスク問題との比較

〇林 直輝¹、澤田 好秀¹ (1. 株式会社アイシン)

キーワード：説明可能性、ニューラルネットワーク、コンセプトボトルネックモデル、特異学習理論、ベイズ推論

人工知能を用いたシステムの説明責任が社会的に求められることから，そこに実装される機械学習モデルの説明手法が提案されてきている．神経回路網の説明手法の一つであるConcept Bottleneck Model (CBM) は出力層の直前に出力理由と関連するコンセプトを観測値として与え，出力結果の説明を行う手法である．しかしCBMを導入したことで神経回路網の汎化性能がどのように変わるのかは明らかにされていなかった．本研究では，三層線型神経回路網にCBMを導入した際のベイズ汎化誤差を解明する．また，出力とコンセプトを共起させることで説明とするマルチタスク問題におけるベイズ汎化誤差との比較も行う．