[4M1-OS-14a] OS-14

[4M1-OS-14a-01] Predicting Trust Dynamics for Human-AI Cooperation

〇Sota Kaneko^1,2, Seiji Yamada^2,1 (1. The Graduate University for Advanced Studies, SOKENDAI, 2. National Institute of Informatics)

Keywords:HAI, Trust Dynamics

自動運転に代表されるような人間-AI協調意思決定システムにおいて，システムの誤用を防ぎ利用効率を向上させるためにはAIに対する信頼の過信/不信を予防し適切な信頼を保つことが重要である．信頼は人間の内部状態であり外部から直接観測不可能であり，AIに対するの信頼の変動を捉えることは困難である．そこで本研究では，直接外部から観測不可能な変数を取り扱うことが可能なSEMを時間軸に拡張したDynamic-SEMを適用することによって信頼ダイナミクスおよび過不信の予測を行うモデルを構築した．