[1J1-OS-21] 信頼されるAIのためのインタラクションデザイン

[1J1-OS-21-02] 能動的説明提示の実現に向けた行動観測による他者内部状態の推定

〇日紫喜 祐也¹、境 辰也¹、堀井 隆斗¹、長井 隆行^1,2 (1. 大阪大学、2. 電気通信大学)

キーワード：内部状態推定、ベイズ推定、説明可能性、説明可能自律エージェント

自律ロボットが説明能力を持つことは信頼性の点で重要である．著者らはこれまで「自律ロボットの説明性」として，人から求められたタイミングで説明する手法を検討してきた．しかし説明は必ずしも求められた時に行うものではなく，必要と判断した際にすべき能動的なものでもある．そこで本稿ではまず，人間はどのような他者のふるまいを観測した際に説明の必要性を感じるかを，シミュレーション実験を通して考察する．そして，ユーザーが明示的に説明を要求しなくても，自律ロボットが説明の必要性を能動的に判断可能な手法を提案する．グリッド環境上のシミュレーション実験によって，提案手法の結果と人間が説明の必要性を判断した結果が類似していることが確かめられた．このことから，提案手法が説明の必要性を自律的に判断可能なことが示唆された．