[2Q5-OS-13b] AIを人と社会の側から考える (2)

[2Q5-OS-13b-04] AIシステムのトラスト構築に関する課題分析

誤動作対応のケース分析

〇小川 隆一¹、島 成佳² (1. 情報処理推進機構、2. 日本電気)

キーワード： AIシステム、トラスト、誤動作対応

筆者らは、機械学習を中心とするAIシステムの信頼構築に向けた課題分析を続け、特にベンダー側が製品の性能あるいは機能としてどこまでを実装することが求められるか、を検討している。この中で、AIの分析性能に加え、AI自身の分析結果が間違っている場合のリカバリー機能が信頼の重要な要素であるとの仮説をたて、ケーススタディを行うこととした。本稿では、自律型ドローンを含むロボット系のAIシステムをケースとし、AIの間違いや、それに基づくAIシステムの誤作動のタイプとリカバリー機能をどのように評価すべきかを検討する。