[4T3-OS-6d] 信頼と文脈のインタラクションデザイン

[4T3-OS-6d-02] 人-XAIインタラクションにおける説明強調点の動的選択手法の検討

〇福地 庸介¹、山田 誠二^1,2 (1. 国立情報学研究所、2. 総合研究大学院大学)

キーワード：説明可能AI、ユーザモデル、意思決定支援システム、人-XAIインタラクション

説明可能なAIと大規模な言語モデルの開発により、AIベースのシステムはAIの予測に対して様々な種類の説明を生成できるようになっている。本稿では、こうした説明をユーザにどのように提供するかを動的に決定する問題を考える。具体的には、AIベースシステムがどの説明を強調すべきかを決定するためのプロトタイプ手法を提案する。本手法は、説明のある点を強調した場合としない場合でユーザの判断にどのような影響があるかを予測し、予測をもとにユーザの判断をAIが推奨するものへと導くことを目指す。本稿では提案手法を株価予測AIの支援つき株式取引シミュレータに実装し、その可能性について議論する。