[3N5-OS-11b] 人工知能におけるプライバシー，公平性，説明責任，透明性への学際的アプローチ (2)

[3N5-OS-11b-04] 機械学習の説明における公正さの偽装

〇荒井 ひろみ^1,2、Urlich Aïvodji^2,3、Olivier Fortineau⁴、Sébastien Gambs³、原 聡⁵、Alain Tapp^6,7 (1. 理化学研究所、2. JSTさきがけ、3. Université du Québec à Montréal、4. ENSTA ParisTech、5. 大阪大学、6. Université de Montréal、7. MILA)

キーワード：機械学習の公正性、機械学習の説明

機械学習モデルにおける説明とは，複雑である機械学習モデルがどのように結果を生み出すかを説明する問題である．この問題を解決するための現在のアプローチには，モデルの説明，結果の説明，モデルの検査などがある．これらの手法は解釈可能性を提供する一方，その過程で「公正な洗浄」を行われる可能性があることを本研究で示す．「公正な洗浄」とは機械学習モデルがいくつかの倫理的価値を尊重するという誤った認識を促進することとして定義する．本研究では所与の公平性基準に対し上述の説明アプローチを適用する際に，不公平なブラックボックスモデルによって行われた決定を体系的に合理化できることを示した．我々はLaundryMLという不公平なブラックボックスモデルに近い公正なルールリストを検索するためのルールリスト列挙アルゴリズムを提案し，複数のデータセットを用いてブラックボックスモデルの合理化手法を実験的に評価した．その結果はブラックボックスモデルの振る舞いをよく近似しつつ不公平を大幅に軽減できる場合があることを示した．