[1Win4] ポスターセッション1

[1Win4-97] 曲線のエネルギー最小化による経路に基づく反実仮想説明

〇北岡 旦¹、岡嶋 穣¹、佐々木 耀一¹、高野 凜¹ (1.日本電気株式会社)

キーワード：反実仮想説明、説明可能AI、数値解析、微分幾何、数理最適化

経路に基づく反実仮想説明は，訓練された分類器から望ましい予測結果を得るために，入力特徴量から経路を提案する説明手法である．この説明手法の需要は、ローン審査や健康診断といった領域で高まっている．しかし，従来の手法にはいくつかの問題がある．具体的には，提案される経路がジグザグになり解釈が難しいことや，スパース性の追加が困難であることが，課題として挙げられる．これらの課題を解決するために，本論文では，曲線のエネルギー最小化問題の解として経路を定義し，その最適化問題を有限差分法で近似し，非線形計画問題へ帰着させる手法を提案する．理論では，エネルギー最小化問題にこの近似手法を使って，積分区間の分割数の-1/2乗で評価できることを紹介する．実験では，滑らかな経路の取得できることと，およびスパース性を確認し，具体的には従来手法の必要な特徴量を73%に抑えられることを確認する．