[4P1-OS-17b] ひと中心の未来社会とAI

[4P1-OS-17b-01] 教師なしコンセプトへの部分的な置換によるConcept Bottleneck Modelの汎化性能改善度に対する理論解析

〇林 直輝¹、澤田 好秀¹ (1. 株式会社アイシン)

キーワード：説明可能AI、Concept Bottleneck Model、神経回路網、特異学習理論、ベイズ推論

ひと中心の未来社会を人工知能（AI）を用いて実現するにあたり，特に自動車や医療といった人命に直結する分野においてシステムの説明責任が求められている．責任あるAIの実現やAI品質の担保のために，AIを説明可能なものとして構築し，その性能を保証することは重要な課題である．説明可能AI（XAI）の一つとしてConcept Bottleneck Model (CBM) が挙げられる．CBMは神経回路網（NN）の出力層の直前に教師ありの形式知を与えることで説明性を付与する手法である．CBMの構造による予測性能低下が知られており，高精度なXAIを実現するためにCBMの改善手法が提案されている．その一つであるPartial CBM（PCBM）は，教師ありの形式知と教師なしの暗黙知の２つにコンセプトを分けることで，高精度なXAIを実現する手法である．我々は先の研究において三層線型NNに対するCBMのベイズ汎化誤差を明らかにしたが，PCBMのそれは明らかにされていない．本研究では上記ケースにおけるPCBMのベイズ汎化誤差を解析し，PCBMの構造によって汎化性能がCBMと比べて改善されることを証明する．