15:40 〜 16:00
[1M4-OS-20b-05] 複数の局所的説明の比較による分類モデル解釈支援のための可視化手法
キーワード：可視化、AI説明可能性
機械学習モデルは多様な分野で高い性能を発揮しているが，実世界でモデルを用いた意思決定が為される場合にはモデルに対する信頼が必要不可欠である．モデルの解釈性を向上させ，モデルやその予測結果を信頼できるものにするために様々なアプローチが提案されている．その中でもモデルをブラックボックスと見なして予測の根拠を提示する手法は，機械学習の知識がない他分野の専門家やエンドユーザも理解できる有効な手法である．本研究ではこのような説明手法を採用して，モデルの信頼性の評価と改善を支援をするための可視化分析を提案する．具体的には個別の入力データに対して予測根拠を提示する局所的な説明手法を複数用いて，大量の入力データに対して局所的な説明を生成しヒートマップで可視化した．これによりモデルの広範囲に影響を及ぼす特徴量を明らかにし，同時に個別の予測結果に対する詳細な分析を可能にした．また本手法を糖尿病の分類タスクなどに適用し，モデルの信頼の評価における有効性を検証した．
講演PDFパスワード認証
論文PDFの閲覧にはログインが必要です。参加登録者の方は「参加者用ログイン」画面からログインしてください。あるいは論文PDF閲覧用のパスワードを以下にご入力ください。