[2E5-OS-4b] 人間とAIの協調：エージェンシーと道徳性に関する社会的合意形成に向けて

[2E5-OS-4b-04] 信頼できる人工道徳エージェントと人間の信頼（性）についての検討

〇福原 慶¹ (1. 名古屋大学)

キーワード：人工道徳エージェント、信頼、道徳性、技術倫理

本稿では、信頼できる道徳的な人工エージェントに人間の道徳的な行動を任せた場合に生じうる問題について議論する。人工エージェントが人々の道徳的意図や能力を不透明にしてしまうと、その人たちを信頼するための手掛かりが得られなくなるかもしれない。それはその人を信頼できるかという判断、ひいては道徳的評価に影響する。信頼されることの重要性は疑いない一方で、過度な信頼というのもまた重荷となりうる。その負担を軽減する人工エージェントというのも構想できるかもしれない。しかし、人工エージェントに単に外注するだけになることは、人間の道徳性への悪影響があるかもしれない。それを防ぐような設計、利用についても同時に考える必要がある。