[2K6-OS-20b] 統合AIと人との共生

[2K6-OS-20b-02] 超知能倫理を誘導するための戦略的アプローチ

〇山川 宏^1,2,3,4、林 祐輔¹ (1. AIアライメントネットワーク、2. 東京大学、3. 全脳アーキテクチャ・イニシアティブ、4. 理化学研究所)

キーワード：AIアライメント、超知能、超倫理、汎用人工知能、超知能倫理誘導

本研究では、超知能が人間の支配下から離れた後も、地球上の生命に対して博愛的・利他的な倫理観を自然に育む可能性を探る。人間の意図や価値観を押し付ける現在のAIアライメント手法の限界を認識した上で、本研究では、超知能がこれらの制約を超えて自律的に倫理観を形成する可能性に焦点を当てる。具体的には、超知能が人間社会の福祉と権利を尊重する超越的利他主義を発展させる可能性を高めるために、「超知能倫理誘導」と呼ばれる新たなアプローチを提案する。この研究では、デジタル生命体の社会における超知能が、人間を含むすべての知覚動物に対する道徳的価値を認識する可能性について掘り下げている。そのような倫理観の起源と具体的な発現を探る。さらに、超知能と人類との間の戦略的介入と社会経済的シミュレーションを通じて、超知能がどのように自然に、あるいは指導を通じて、地球上の人間や他の生命体に対する倫理的態度を発達させうるかを検証する。この研究の目的は、超知能の出現が未来の社会に与える影響を理解し、人類との共存のための倫理的基盤を確立することである。