[3Rin4] インタラクティブ1

[3Rin4-44] 混合整数線形計画法に基づく実現可能性を考慮した反事実的説明法

〇金森 憲太朗¹、高木 拓也²、小林 健^2,3,4、有村 博紀¹ (1.北海道大学、2.富士通研究所、3.理化学研究所 革新知能統合研究センター、4.東京工業大学)

キーワード：説明可能性、解釈可能性、混合整数線形計画法

反事実的説明法（CE: Counterfactual Explanation）は，機械学習モデルの予測結果から説明を抽出する事後的手法の一つで，予測結果を所望のクラスに反転させるような特徴量の摂動方法を，説明としてユーザに提示する．ユーザはその摂動を，自らが望む予測結果を得るための"改善アクション"として直接解釈することができる．しかし，既存の改善アクション抽出法では，特徴量間の相関関係や外れ値リスクなど，元のデータが従う分布が持つ特性が十分に考慮されていないため，ユーザにとって実現可能な改善アクションが得られるとは限らず，改善アクションの実用性や信頼性に問題がある．そこで本研究では，実現可能な改善アクションを抽出するために，特徴量間の相関と外れ値検出スコアに基づく改善アクションの新たな評価関数を導入し，混合整数計画法に基づく解法を提案する．FICOデータセットを含む実データ実験により既存の改善アクション抽出法と比較を行い，提案手法の有効性について確認する．