[2E4-OS-4a] 人間とAIの協調：エージェンシーと道徳性に関する社会的合意形成に向けて

[2E4-OS-4a-04] 自然意味論メタ言語に基づく制御認知による安全な世界及びエージェントモデリングに向けて

〇ジェプカ ラファウ¹ (1. 北海道大学)

キーワード：知識獲得、認知シミュレーション、透明性、説明性、解釈性

基盤モデルの発展により、大規模なデータセットと強力な計算能力が日常生活に役立つツールを生み出せることが示された。しかし、そのようなモデルには主体性がなく、言語を感覚体験に結び付けることができない。現在の知的エンティティの構築方法は、大規模なデータを使用した事前学習と、人間のアノテーターによる安全な振る舞いの指導に依存している。このアプローチは効率的でも持続可能でもなく、その安全性も依然として不確かである。本論文では、不透明な重みに隠された表現ではなく、解読可能な認知概念に基づく知識獲得手法への転換を提案する。物理エージェントの自律性が技術の進歩とともに高まる中、エージェントの振る舞いがどのように設計されたかを透明に追跡できる高次レベルの処理が必要である。本論文では、知覚と学習のための意味的な最小要素を固定セットとして採用することで、人工エンティティの説明可能性が向上すると仮定する。自然意味論メタ言語（Natural Semantic Metalanguage）フレームワークは、このような基本的な知覚概念のセットを定義するための有望な例だと考えられる。