[4M1-OS-14a] OS-14

[4M1-OS-14a-03] Emotional XAI: Emotional Explanation Strategies for AI Agents with Utility Functions

〇Mibuki Takagi¹, Kazunori Terada¹ (1. Univ. of Gifu)

Keywords:AI, XAI

自動運転技術の普及には利用者の理解と信頼が不可欠だが，従来は物理的因果関係や目標を示す説明が中心で，効用変化を取り入れた感情的説明の有効性は十分に検証されていない．本研究では，因果関係を示す機械的説明，動作目的を強調する目的論的説明，感情評価理論に基づく感情的説明の3種類の説明とその組み合わせが利用者の理解度・信頼感に与える影響を，歩行者が存在する2車線道路シナリオで参加者(n=271)を対象に評価した．実験の結果，機械的説明と目的論的説明の間に相補的な関係が見られ，一方が不在の場合にのみもう一方が効果的に機能することが示された．一方，感情的説明は単独で用いた場合，理解度や信頼性，有用性などの評価指標において一貫して否定的な影響をもたらし，機械的説明との組み合わせにおいても評価を低下させる傾向が確認された．これらの結果は，自動運転車の説明設計において，説明の目的に応じた適切な説明スタイルの選択が重要であり，特に感情的要素の導入については慎重な検討が必要であることを示唆している．