[1D4-OS-24b] Behavioral Data Science: 行動インサイトとAI・機械学習・最適化

[1D4-OS-24b-04] 審査基準との関連性に基づく特徴選択を用いたリコース評価関数

〇伊藤 拓誠¹、冨永 登夢²、倉島 健² (1. 筑波大学、2. 日本電信電話株式会社)

キーワード：アルゴリズミック・リコース、反実仮想説明、説明可能AI

アルゴリズミック・リコースは，AIシステムによる否定的な判定を受けたユーザが肯定的な判定を得るための行動計画-リコース-を提案する枠組みであり，一般にユーザの現在状態と目標状態を表すベクトル間の距離を測定する評価関数の最小化により，ユーザに受け入れられやすいリコースが生成されると仮定されている．しかし，近年の研究によりこの仮定が妥当でないことが実証され，評価関数の再検討が求められている．そこで本研究は，審査結果との関連性が低い特徴の影響を排除する新たな評価関数を提案する．この手法は，審査結果との相関，審査結果の予測における重要度，または審査結果との関係のなさを指摘するユーザの自己報告に基づいて関連性の低い特徴を選択し，それらの変更が提案されないリコースを設計する．ローン審査を題材とした被験者実験データを用いて検証した結果，提案手法が評価関数の最小化によってリコースの受容性を最大化することを示し，特にユーザ自己報告に基づく特徴選択が最も効果的であることを明らかにした．これらの結果を基に，ユーザの事前知識を計算プロセスに統合するリコース生成手法の構築に向けて今後の課題と方向性を論じた．