[2A1-GS-10] AI応用：医療・ヘルスケア

[2A1-GS-10-04] AI診断支援システムはエビデンスと謙虚さを示せるか？

Surrogate modelによるXAIとUQとの融合

〇宮地 康彦²、石井 修²、鳥越 恵治郎^1,2 (1. 医療法人 恵真会 鳥越医院、2. 臨床推論実用化研究会)

キーワード：診断支援システム、説明可能なAI、例示に基づいた説明手法、不確実性の定量化、Conformal Prediction

Objectives: 診断支援システム(CDSS)のXAI機能とUQ(Uncertainty Quantification)機能を提案する。 ベースとなるCDSSは、JSAI2022で発表したシステムである。
Method: XAI・UQ機能はk近傍法による"同一の"代理モデル(k-NN Surrogate model)を採用している。 XAI手法はExample-based Explanationであり、予測データの訓練データのインスタンスから医学文献や疾患に関する情報を出力する。 UQ手法はConformal Predictionであり、Difficulty EstimatorによるDifficulty scoreを出力する。 主モデルの予測データへの近接化(Closest)処理により、代理モデルはより適応したデータを出力する。
Conclusions: 提案したXAI・UQ機能は他のCDSSでも適応可能である。 本CDSSの予測・XAI・UQ機能は、現在の商用のLLMとは異なり、予測データのエビデンス情報と不確実性に関する情報を医療従事者に提供することができる。