[4L3-OS-38] OS-38

[4L3-OS-38-02] Can ’Explanation’ be managed as AI quality?

〇Ryuichi Ogawa¹, Shigeyoshi Shima² (1. Information-technology Promotion Agency, Japan, 2. University of Nagasaki)

Keywords:Explanation, Quality, Misuse prevention, Evaluation

AIシステムの分析結果の由来や動作・学習に関するベンダーの説明は、AIシステム利用者のトラスト（信頼）を獲得するうえで必須となっている。また利用者のAIシステム誤用・悪用を抑止するための「適切な利用に関する説明」も重要性が増している。一方で、このような説明は正確を期す等の理由により、情報過多や技術偏重となり、利用者の理解を妨げ、かえって忌避されるリスクがある。また、AIシステム利用者にもシステム操縦者・サービス提供者・エンドユーザなどのカテゴリがあり、それぞれに必要な情報が異なることが想定される。だれに、どのような内容をどのような形式で説明すべきか、また、説明が正しく理解されたことをどう評価するか、に関する検討は十分されているとはいえない。本稿では、AIシステムの「説明」を説明内容・対象・形式・評価等の観点で整理し、説明をAIシステムの品質として管理できるか、の視点から検討を行う。