[2E5-OS-4b] 人間とAIの協調：エージェンシーと道徳性に関する社会的合意形成に向けて

[2E5-OS-4b-01] 道徳を機械化することのメリットと副作用

〇久木田 水生¹ (1. 名古屋大学)

キーワード：人工道徳的エージェント、二過程理論、道徳哲学

道徳的な判断を行う人工的エージェントを作ることに対しては様々な賛否両論がある。ここでは特に「人工道徳的エージェントは人間と違って感情によって判断を狂わされることがないのでより道徳的になりうる」という議論について検討する。一般に私たちの判断には直観的で迅速なプロセスと、熟考的で時間のかかるプロセスとう二つのプロセスがあると信じられており、同じことは道徳的判断についても言われている。上のような人工道徳的エージェントのメリットについての主張は、道徳的判断においては熟考的プロセスを働かせるべきであるという前提に基づいている。この前提は西洋の道徳哲学伝統において支配的な、道徳においては感情を抑制して理性を働かせることが重要であるという思想に通じている。しかしながら道徳的な帰結を持つ判断から直観的なプロセスを取り除いて、熟考的な人工的システムに置き換えようとすることにはそれなりの副作用があると思われる。本発表では実際に道徳的に重要な帰結をもたらす判断に人工知能を利用している事例を取り上げてこの点について検討する。