[3I5-OS-4c] 信頼と文脈のインタラクションデザイン

[3I5-OS-4c-03] 信頼の獲得に向けた物体認識結果の選択的提示手法の検討

〇福地 庸介¹、山田 誠二^1,2 (1. 国立情報学研究所、2. 総合研究大学院大学)

キーワード：説明可能AI、信頼較正、選択的説明

意思決定に関する説明は、AIがユーザの信頼を得るために重要な役割を果たす。しかし、過剰な説明は効果を低下させ、あるいは負の結果をもたらすことがある。本稿では、ユーザが自動運転車の物体検出結果を見ながら自動運転をAIに任せるか判断するシナリオにおいて、ユーザの信頼を維持しつつ説明の提示回数を減らす手法を提案する。本手法によって、ユーザの信頼を維持したまま提示する説明の個数を減らすことができた。