12:00 〜 12:20
[4N2-OS-26a-01] 公平性により生じる敵対的攻撃に対する脆弱性
キーワード：公平性、敵対的攻撃、機械学習、分類器
機械学習モデルを社会で使用する際に, 分類器を人種や性別に対して公平にすることは重要である. それゆえ, 分類器を公平にするための多くの手法が提案されてきた.\cite{Zemel2013} しかし, それらに対するセキュリティの研究は我々の知る限り存在しない. 機械学習の分野には, 分類器の精度を減少させる敵対的攻撃という手法が存在する. 敵対的攻撃は分類器の損失関数の勾配を使用することで, 分類器の予測精度を悪化させるものである. 機械学習を安全に社会で活用するためには, 敵対的攻撃は考慮されなければならないものである. 本研究では, 公平な分類器は敵対的攻撃に対して脆弱であることを指摘する. 実験において, 公平な分類器は通常よりも敵対的攻撃に対して精度が悪化し, さらに一部の公平性も悪化することを示した.
講演PDFパスワード認証
論文PDFの閲覧にはログインが必要です。参加登録者の方は「参加者用ログイン」画面からログインしてください。あるいは論文PDF閲覧用のパスワードを以下にご入力ください。