[4T1-OS-6c] 信頼と文脈のインタラクションデザイン

[4T1-OS-6c-04] ダイナミックSEMによる過不信ダイナミクスの予測

〇金子 颯汰^1,2、山田 誠二^2,1 (1. 総合研究大学院大学、2. 国立情報学研究所)

キーワード：ヒューマンエージェントインタラクション、信頼ダイナミクス、過不信

人工知能技術(AI)の発達と共に自動運転やチャットボットなどAIを利用したシステムの利用への関心が高まっている．このようなシステムが利用において過信するとシステムの誤用に繋がり，不信に陥るとシステムの利用効率の低下が引き起こされる．自動運転に代表されるような人間-AI協調意思決定システムにおいてシステムの誤用や利用効率の低下を抑制するには，「人間のAIに対する信頼(AIの信頼)」を適切に保つことが重要である．そこで直接観測不可能な潜在変数を取り扱い可能なStructural Equation Modelling (SEM)を時間軸に拡張したDynamic-SEMによって，時間経過と共に動的に変化するAIの信頼の予測モデルの構築を行なった．構築した予測モデルによって過信の予測が可能であることが確かめられた．