[4D1-GS-2] 機械学習：不確実性・情報可視化

[4D1-GS-2-04] Instance AttributionとFeature Attributionの一貫性制約を満たす集合関数の局所説明法

〇吉川 友也¹、木村 正成²、清水 良太郎²、斎藤 侑輝² (1. 千葉工業大学、2. ZOZO研究所)

キーワード：説明可能性、局所説明、Feature attribution、Instance attribution、集合関数

集合関数に対する局所説明では、集合の要素（インスタンス）がどのように寄与するかのInstance attribution (IA)と、各要素の特徴量がどのように寄与するかのFeature attribution (FA)の2つが考えられる。IAはそのインスタンスを構成する特徴のFAの合計と一致すると考えるのが自然であり、説明の一貫性の観点でも重要なことであるが、既存説明法を用いた場合、その一致性を達成することは困難である。本研究では、IAとFAの一貫性制約の下でこれらを同時に推定するモデル非依存の局所説明法を提案する。実験では、提案法を用いることでIAとFAが一貫した説明が可能になることを示すとともに、より少数の集合関数の実行回数で高精度な説明が得られることを示す。