[2J6-OS-24b] AI倫理・ガバナンス －イノベーションと規制の狭間で－(2/2)

[2J6-OS-24b-02] Fairness by Design: 地域文化の多様性を考慮した公平なAI開発フレームワーク

〇中尾 悠里^2,1、小林 賢司²、スタンフ シモーヌ³ (1. 東京大学大学院、2. 富士通株式会社、3. グラスゴー大学)

キーワード：人工知能、公平性、文化的多様性

人工知能（AI）が人事採用や与信調査、再犯予測等の社会的な意思決定に使われるようになり、訓練データなどに含まれる差別的なバイアスがAIの結果に反映されるという問題が重要視されるようになった。AIの中のバイアスを緩和し、公平なAIを実現しようとする様々な取り組みがなされているが、公平性は文脈や文化によって多様であり、一元的に定義することが難しい。そこで、本発表では文化・立場によって異なる公平性の考え方をAIシステムの設計に反映するFairness by Designの枠組みを提案する。Fairness by designは多様な国・立場の人に対するワークショップに基づくAIに必要なデザイン要件の明確化、デザイン要件に基づくインタラクティブなAIシステムの構築、多様な国・立場の人からのモデル修正の提案の統合と、交差バイアスを考慮できるバイアス緩和フェーズからなる。本発表では、この手法を銀行のローン審査データに適用し、文化によって公平性が多様であり、文化ごとに異なるAIモデルが得られるという事を示した。