[4T3-OS-6d] 信頼と文脈のインタラクションデザイン

[4T3-OS-6d-01] 視覚的課題におけるXAIデザインの検討

〇前東 晃礼¹、福地 庸介²、山田 誠二^2,3 (1. 静岡大学、2. 国立情報学研究所、3. 総合研究大学院大学)

キーワード：説明可能なAI、信頼、説明表示

本研究では，視覚的課題における説明可能なAI（XAI）の説明量を最適化するインタフェースデザインを検討するために2つの実験を行った．実験1では，古典的な視覚探索課題を用いて，説明の種類がXAIへの信頼に与える影響を検討した．その結果，(1)難易度の低い課題では，AIの解答のみが表示されることで信頼が上昇し，(2)難易度の高い課題では，AIの解答と解釈可能性の高いAIの注意のヒートマップの表示が信頼度を向上させることが示された．実験2では，実験1の結果に基づいてデザインされた説明表示が，課題のパフォーマンスに及ぼす影響について，応用的な識別課題を用いて実験を行った．その結果，(3)難易度の低い課題では，AIの解答のみが表示されると，複数の説明を表示したAIを利用した場合よりもパフォーマンスが向上し，(4)難易度の高い課題では，AIの解答と解釈可能性の高いAIの注意のヒートマップの表示が，その他複数の説明を表示したAIを利用した場合よりもパフォーマンスが向上することが示された．本研究により，ユーザの認知的負荷を削減し，最適に説明を提示するXAIデザインの重要性が示された．