[4L3-OS-38] ヒューマン・イン・ザ・ループAI

[4L3-OS-38-02] AIシステムの「説明」を品質として管理できるか

〇小川 隆一¹、島 成佳² (1. 情報処理推進機構、2. 長崎県立大学)

キーワード：説明、品質、誤用防止、評価

AIシステムの分析結果の由来や動作・学習に関するベンダーの説明は、AIシステム利用者のトラスト（信頼）を獲得するうえで必須となっている。また利用者のAIシステム誤用・悪用を抑止するための「適切な利用に関する説明」も重要性が増している。一方で、このような説明は正確を期す等の理由により、情報過多や技術偏重となり、利用者の理解を妨げ、かえって忌避されるリスクがある。また、AIシステム利用者にもシステム操縦者・サービス提供者・エンドユーザなどのカテゴリがあり、それぞれに必要な情報が異なることが想定される。だれに、どのような内容をどのような形式で説明すべきか、また、説明が正しく理解されたことをどう評価するか、に関する検討は十分されているとはいえない。本稿では、AIシステムの「説明」を説明内容・対象・形式・評価等の観点で整理し、説明をAIシステムの品質として管理できるか、の視点から検討を行う。