[4M1-OS-14a] OS-14

[4M1-OS-14a-04] Towards Evaluation of User Decision-Making with Support from Nudge XAI

〇Yosuke Fukuchi¹, Seiji Yamada^2,3 (1. Tokyo Metopolitan University, 2. National Institute of Informatics, 3. The Graduate University for Advanced Studies)

Keywords:Explainable AI, Decision-Making Support, Nudge-XAI, Stock trading simulation

本研究におけるナッジXAIとは、説明がユーザの意思決定に与える影響を予測し、それに基づいて説明の提示方法や内容を動的に制御することで、ユーザの最終的な意思決定をより良いものへと導くことを目的とした説明可能AIである。ナッジXAIは、特定の判断を強制することなく、ユーザの意思決定における自立性を高め、AIの失敗を回避する余地を広げるとともに、AIが独自に意思決定を行うことによる責任や信頼に関するリスクを軽減することが期待される。しかし、AIの性能やAIの失敗が生じるタイミングなど、さまざまな要因がユーザとのインタラクションに影響を与えるため、ナッジXAIが実際に期待される結果をもたらすことができるかは依然として明らかでない。そこで本研究では、これまでのナッジXAIの試みを整理し、評価が必要な項目について検討する。結果、ユーザの個人差とAIの性能の交互作用を検証する必要があることがわかった。