[2E4-OS-4a] OS-4

[2E4-OS-4a-02] Transformation of the concept of Moral agent in Human-AI-Relationship

〇Kiyotaka Naoe¹ (1. Tohoku University)

Keywords:many hands problem, moral agent, Human-AI-Relationship

AIの発展は、人間の根本概念に劇的な変化をもたらしている。責任についても、従来は（情報倫理やその他の応用倫理においても）自律した個人的行為主体をモデルに、行為をコントロールし、行為の結果について認識しうることが条件とされてきた。近年、ある出来事に対してネットワークとしては道徳的責任があるが、どの個人・団体にも道徳的責任がないようにみえるMany Hands問題が議論されている。設計者、技術者に一義的に責任を死すことが難しいのである。その極端な例としては、自律学習の能力を備えた知的システムにおいて、行動に対する人間の制御や予測を困難にする「責任のギャップ」がある。もはや将来の機械の挙動を予測することができない場合、誰が道徳的責任をとるのか、AIを責任主体と見なせるかというのである。また、医療機器などに関連して、関係性における自律という考え方も提唱され、行為者のアイデンティティが社会的関係の中で形作られることが指摘され、意思決定の場においても、自律した個人主体という前提が揺らいでいる。本発表では、AIの導入による人間と人工物の関係における自律主体という概念の変容について検討する。