[3I1-OS-4b] 信頼と文脈のインタラクションデザイン

[3I1-OS-4b-04] 人に搾取的意思決定を促す自己犠牲エージェント

天野 燎¹、長谷川 智大¹、〇伊藤 諒哉¹、寺田 和憲¹、セルス ドゥメル² (1. 岐阜大学、2. DEVCOM U.S. Army Research Laboratory)

キーワード：信頼インタラクション

人とAIが協力的な関係を構築することは知られている．しかし，搾取的関係，特に人がAIを搾取する関係を構築する方法は未知である．他者との協働場面における協力的な行動の選択は，評判などの事前に得た相手の情報と，インタラクション中に観察される相手の行動出力履歴から構築される相手モデルによって予測した行動に応じて決定される．我々は，人が社会的価値志向性（Social Value Orientation : SVO）に基づいた合理的エージェントの生成モデルを相手モデルとして持ち，観察された状況と行動から，相手のSVOを推論し，それに基づいて相手の行動予測をすると考える．本研究では，繰り返し（iterated）囚人のジレンマにおいて，マゾキズム（masochism），殉死的（martyrdom）, 利他的（altruistic）を含む，SVO角度を0度から180度まで22.5度ずつに区切って生成したSVOに対応した6種類の表情パターンを表出し，常に協力を選択するAIに対して人が協力を選択するか否かを計測した．実験の結果，人は殉死的な表情パターンのAIを搾取することがわかった．