[4I1-GS-11] AIと社会：

[4I1-GS-11-02] 品質多様性アルゴリズムによる解釈可能性と公平性を考慮したファジィ識別器設計の検討

〇小西 豪¹、増山 直輝¹、能島 裕介¹ (1. 大阪公立大学)

キーワード：公平性、解釈可能性、進化計算、品質多様性アルゴリズム、ファジィシステム

人工知能の倫理的及び社会的なリスクへ対処するため，精度だけではない様々な側面への関心が高まっている．なかでも，透明性，公平性は重要な要素であり，透明性の高い人工知能において公平性を考慮することは大きな注目を集めている．特に，本質的に解釈可能なモデルにおいて公平性を考慮すると，モデルの内部メカニズムの理解とともに公平性を考慮できるため，透明性と公平性が重視される場面での活用が期待される．ファジィ識別器は，本質的に解釈可能なモデルとして代表的なモデルであり，現実世界の不確実性を考慮した判断が可能である．本研究では，代表的な品質多様性アルゴリズムであるMAP-Elitesによる解釈可能性と公平性を考慮したファジィ識別器設計について検討する．選択した特徴の多様性向上とともに性能向上を行うことが可能なMAP-Elitesを用いることで，解釈可能性と公平性に関して多様性の高い高精度なファジィ識別器集合を獲得できることを示す．さらに，得られたFeature-performance Mapを用いて，精度と解釈可能性，公平性の関係に対する考察を行う．