[3J1] エージェント-マルチエージェント(1)

[3J1-05] 人間の環世界から見たエージェントモデル –AI Safety の実現に向けて

〇福地 庸介¹、大澤 正彦^1,2、山川 宏^3,4、今井 倫太¹ (1. 慶應義塾大学理工学研究科、2. 日本学術振興会 特別研究員 (DC1)、3. 株式会社ドワンゴ ドワンゴ人工知能研究所、4. 全脳アーキテクチャ・イニシアティブ)

キーワード：AIの安全性、ヒューマンエージェントインタラクション、環世界

機械学習によって行動獲得するエージェントによる意思決定の不透明性が、AI Safetyを実現する上での障害となっている。しかし、人間とエージェントの間に存在する観測空間・行動空間・報酬・時間の違いが、人間によるエージェントの理解を難しくしている。そこで本稿では、人間からはエージェントの振る舞いがどのように理解されるのか、をモデル化した「人間の環世界から見たエージェントモデル」を提案する。