[2N6-OS-7b] 人間と共生する対話知能(2/2)

[2N6-OS-7b-03] 対話システムの倫理における設計者の道徳的責任について

小道具説からの哲学的検討

〇水上 拓哉¹ (1. 理研AIP)

キーワード：AI倫理、対話システム、チャットボット、道徳的責任、道徳的行為者性

対話システムの倫理的課題に対処する際、設計者は何に対して道徳的責任を負わなければならないのだろうか。本発表はこれについて哲学的検討を行う。最近の技術倫理では情報技術の道徳的影響力を説明するため、技術的人工物に何らかの意味での道徳的行為者性を認める傾向にある。しかし、この立場を対話システムの倫理の問題に適用しようとすると、設計者がどこまで・どのように道徳的責任を負うべきかが曖昧になるという問題があった。これに対して水上（2020）は、ソーシャルな役割を担う技術の道徳的地位をK.Waltonの理論に依拠して説明する「小道具説」を提案した。この立場では、技術に見いだされる行為者性を（責任帰属の根拠となる事実としてではなく）虚構的世界において成り立つ真理として解釈することで、責任帰属の混乱を回避する。本発表では、この「小道具説」が対話システムの倫理的設計においてどのような示唆をもたらすのかについて考える。具体的には、設計者が小道具を介したすべての想像活動に責任を負うことは難しいという考えのもと、対話システムの倫理的影響を予見するためには工学的な評価スタイルだけでは不十分であることを示唆する。