[2Q4-OS-13a] AIを人と社会の側から考える (1)

[2Q4-OS-13a-01] 人工知能は道徳的に悪質な差別ができるか

COMPAS問題を事例に

〇前田 春香^1,2 (1. 東京大学大学院、2. 理研AIPセンター)

キーワード：差別、COMPAS、犯罪予測、人工知能、アルゴリズム

本発表の目的は、COMPAS事例を用いて人工知能がいかに差別を「行う」ことができるか、その振る舞いから説明することである。
近年、人工知能技術の普及とともに人工知能による差別が話題になっている。倫理指針においても反差別は多く言及されるにもかかわらず、何が差別なのかはこれまで指摘されてこなかった。差別がなぜ悪なのかを探求する差別の規範理論においては、被差別者に発生する経済的・心理的害、または差別者の態度などに着目して差別の悪質さを指摘できる。
本発表では、再犯リスク予測COMPASの事例を用いる。COMPASは人種データを入力していなかったにもかかわらず、判断に人種差があるため議論になった。一度に特定の属性に対し大規模に差別を行うことができるため、このように害が観察できてからでは手遅れになりうる。
そこで差別者の行為に着目するHellman説が、人工知能による差別の悪質さをも指摘しうることを示す。この作業によって、差別的行為を「ふるまい」の問題として独立させ、人工知能の差別の悪質さをその「ふるまい」から指摘することが可能になると同時に、より早い段階での差別性の指摘が可能になる。