[1F4-OS-40b] OS-40

[1F4-OS-40b-01] A Framework for Developing Reliable Machine Learning Systems Including Risk Analysis and its Application to an Automobile

〇Toshiya Okubo¹, Jati Hiliamsyah Husen¹, Nobukazu Yoshioka^1,2, Naoyasu Ubayashi¹, Hironori Washizaki¹, Hironori Takeuchi³, Truong Duy Truong Vinh⁴ (1. Waseda University, 2. QAML, Inc., 3. Musashi University, 4. Aisin Corporation)

Keywords:Risk Assessment, Machine Learning, Safety, Uncertainty

機械学習モデルの非決定性や不確実性といった従来の開発とは異なる機械学習システム特有の性質を扱うため，我々は機械学習システムの価値や安全性を含む様々な側面を一貫した形で分析設計モデリングし，その内容を継続的に機械学習モデルの訓練や修正，運用のワークフローパイプラインと統合するフレームワークM3S（Multi-view Modeling framework for ML systems）を提案し，その中で機械学習モデルの不確実性を考慮したリスク分析の仕組みを合わせて扱っている．本稿では，高信頼な機械学習システムの継続的な開発運用における問題や関連研究を提示のうえ，リスク分析を含むM3Sの仕組みや特徴を概説し，モビリティを題材としてその実践性や有効性を検証する事例を概説する．