[4N2-OS-26a] 人工知能と倫理 (1)

[4N2-OS-26a-02] AIサービスのリスクコントロールを検討するためのモデル提案

〇松本 敬史^1,2、江間 有沙¹ (1. 東京大学、2. 有限責任監査法人トーマツ)

キーワード：リスクマネジメント、信頼可能なAI

AIサービスの社会実装が拡大する一方で、AIの信頼性に係る問題が発生しており、信頼できるAIの開発・利活用を目的としたガイドラインの策定が国内外の各機関で定められている。しかし、下記の課題により、AIサービス提供者及びユーザーが適切なリスク対応を検討することが難しい。
－ビジネス環境・ユーザー・法制度等の環境変化がAIの性能に影響を与える。
－倫理に係るリスクへの配慮が必要とされる。
－どのガイドラインを参考にするべきかの判断が難しい。
－データやAIモデルだけではリスクを充分に低減することが難しい。
－ユーザーにもリテラシーが求められる。またユーザーの誤用・悪用によるリスクの検討も必要とされる。

本研究では、文献の解読・ケーススタディ・有識者とのディスカッションを経て、リスクアセスメント及びリスク対応コントロールの識別を可能とするモデルを検討する。リスクシナリオに関連する要素を識別して関係性を可視化（プロセスチェーン）し、リスク対応コントロールを識別する。