[4I2-GS-11] AIと社会：

[4I2-GS-11-04] CNN潜在表現を用いた画像分解手法の提案

〇貫井 俊吾¹、村田 昇¹、赤穂 昭太郎² (1. 早稲田大学、2. 産業技術総合研究所)

キーワード：説明可能AI、機械学習、コンピュータービジョン

本稿では，潜在表現の任意の分解に対応させるように元画像を分解するXAI手法を提案する。近年，AIの社会導入が加速するにつれてAIに解釈性，説明性を持たせようとするXAIの手法も多数提案されるようになった。しかし、潜在表現に入力画像のどのような特徴が抽出されているかを明示的に確認することはまだできていない。そこで、潜在表現を複数の成分に任意に分解し、それぞれが元画像のどの部分や特徴と対応しているのかを、画像の分解を通じて可視化した。顔画像を入力とする年齢推定回帰タスクで得られる潜在表現に対して提案手法を適用した。潜在表現を予測に大きく寄与したチャネル群とそうでないチャネル群に分解して画像の分解を行うと、前者に対応する画像には直感的に重要な顔の特徴が現れた。若年層では滑らかな肌を示す低周波の縞模様が、高齢層では皺を示す高周波の縞模様が予測への寄与が大きなチャネル群と対応付けられた。