[2C3-OS-9a] 人工知能におけるプライバシー，公平性，説明責任，透明性への学際的アプローチ(1/2)

[2C3-OS-9a-03] 機械教示と公平性配慮型機械学習を用いた無意識バイアスの矯正

〇楊 明哲¹、荒井 ひろみ²、馬場 雪乃¹ (1. 筑波大学、2. 理化学研究所)

キーワード：認知バイアス、機械教示、公平性

無意識のバイアスは，人間が無意識のうちに獲得した固定観念等から形成される，潜在的な偏見のことである．人種・性別に関する無意識のバイアスは，採用や貸与等で他者を評価する際の不公平な判断に繋がる．機械学習モデルによる人間の評価がしばしば不公平になることは知られており，解決のために公平性配慮型機械学習の技術が研究されている．本研究では，人間が公平に判断できるようにするため，人間の無意識バイアスを矯正する手法を提案する．提案手法は，まず人間に（不公平な）評価を行わせ，評価結果に対して公平性配慮型機械学習を適用して公平なモデルを獲得する．公平なモデルと同様の判断をできるようにするため，人間に対して機械教示を行う．他者の収入を予測する被験者実験を実施し，不公平な評価を行う人間に対して，提案手法による矯正効果が見られることを確認した．