2020年度 人工知能学会全国大会(第34回)

講演情報

オーガナイズドセッション

オーガナイズドセッション » OS-11 人工知能におけるプライバシー,公平性,説明責任,透明性への学際的アプローチ

[3N5-OS-11b] 人工知能におけるプライバシー,公平性,説明責任,透明性への学際的アプローチ (2)

2020年6月11日(木) 15:40 〜 17:20 N会場 (jsai2020online-14)

荒井 ひろみ(理化学研究所)、福地 一斗(筑波大学)、工藤 郁子(東京大学)、中川 裕志(理化学研究所)

17:00 〜 17:20

[3N5-OS-11b-05] 分布変動に対する公平な機械学習アルゴリズムの頑健性

〇福地 一斗1,2 (1. 筑波大学、2. 理化学研究所 革新知能統合研究所)

キーワード:公平性、分布変動

人種,性別などのセンシティブな個人の属性に対して機械学習で得られたモデルの出力が偏る問題が機械学習における公平性の問題として広く認知されてきており,それに伴い,偏りを解消する学習手法が盛んに研究されている.既存の公平な機械学習アルゴリズムは訓練とテスト時のサンプル分布が同一な状況に対し設計された手法であるが,現実世界では訓練とテスト時のサンプル分布が異なることがあり得る.例えば,履歴書のデータから雇用の採否を推定するタスクを公平な機械学習アルゴリズムを用いて学習を行なった時,訓練事例が5年前のサンプルであった場合,社会情勢や採用者の意識の変化などにより採否の基準が変わることは十分考えられる.この様に訓練とテスト時のサンプル分布が異なる場合,訓練時に公平に学習したとしてもテスト時には公平にならない可能性がある.本研究では分布変化が,たとえ変化が微小でも,不公平になる可能性を検証する.そのために,実際に学習したモデルが不公平になるテスト分布を作成するアルゴリズムを開発する.また,実験的な評価により既存の公平な学習アルゴリズムで得られたモデルを不公平にするテスト分布が作成できることを示す.

講演PDFパスワード認証
論文PDFの閲覧にはログインが必要です。参加登録者の方は「参加者用ログイン」画面からログインしてください。あるいは論文PDF閲覧用のパスワードを以下にご入力ください。

パスワード