[2D4-TS-4] 機械学習と公平性

[2D4-TS-4-01] 機械学習と公平性

神嶌 敏弘¹ (1. 産業技術総合研究所)

機械学習やデータ科学は，与信，採用，保険などの重要な決定に使われるようになってきた．そこで，これらの決定を，人種や性別などのセンシティブ情報に対して公平性を担保しつつ行うような機械学習やデータ科学の手法が研究されている．前半では，機械学習の予測が不公平になる原因と，その原因ごとの事例を紹介する．そして，機械学習で用いられる形式的公平性規準について説明し，同時には達成できない規準があるといった性質を紹介する．後半では，機械学習で公平性に関わる課題を不公平発見と不公平防止に分け，それぞれについて代表的な手法を取り上げる．前者はデータやモデルに不公平な判断があるかを見つけるもので，後者は形式的公平性を保証しつつ予測する技術である．