[3M5-OS-7b] 可視化とAIと科学・文化・社会

[3M5-OS-7b-05] ECOC法を活用したニューラルネットワークによる説明可能多値分類手法の提案

〇阪井 優太¹、三川 健太²、後藤 正幸¹ (1. 早稲田大学、2. 東京都市大学)

キーワード：説明可能AI、ECOC法、マルチクラス分類、ニューラルネットワーク

画像分類をはじめとする多クラス分類問題は重要なタスクの一つであり，様々な研究が行われている．しかし，DNNなどの機械学習モデルの精度が飛躍的に高まり実用化されている一方で，モデルの内部構造がブラックボックスであることが問題となっている．そのため，説明可能AIの必要性が認識されており，入力特徴量のうち予測結果に寄与する部分をヒートマップのように示す方法や，入力特徴量に対して予測結果への重要度を数値化し局所的な説明を与える方法などの様々な手法が提案されている．これらの手法は，基本的には入力特徴量と予測結果の関係性を解釈するためのモデルであり，出力であるクラス間の構造に対する解釈性を持つものではない．また，その他の大域的な解釈性を与える手法も，予測に重要な特徴量を可視化することに主眼がある手法がほとんどである．そこで本研究では，出力層にECOC法を活用することで，多クラス分類問題においてモデルの識別に有効なカテゴリグループを解釈する新たな説明可能AIアプローチを提案する．多クラス分類問題を多数の分類タスクに分割しモデルを作成することで，カテゴリ間の分類しやすさや類似性について解釈性を与える．