[4H1-GS-11b] AIと社会：社会的デザイン

[4H1-GS-11b-03] 個人の重要な意思決定を助ける批判可能なシステムの実現に向けて

〇中尾 悠里¹ (1. 株式会社富士通研究所)

キーワード：意思決定支援システム、AI倫理、個人にとって需要な意思決定

機械学習が日常の意思決定を助けるために広く利用されるようになり、情報検索やレコメンデーションなどのAIアプリケーションの結果の影響を受ける人が増えている。一方で、これらのアプリケーションは、フィルターバブルやソーシャルエコーチャンバーと呼ばれる効果を通じて、個人の知覚する世界にバイアスを与えていることが指摘されている。就職先の決定や大学での進路決定など、将来の進路に関わる重要な意思決定において、ユーザーの知覚の偏りは、技術が人の可能性を捻じ曲げてしまう点で倫理的に致命的な問題である。しかし、個人にとって重要な意思決定を的確に支援するための具体的な方法はいまだ提示されていない。本論文では、個人が人生の中で数回しか経験しない、重要な意思決定を支援する技術を開発するために探求する必要がある内容を人の意思決定方策、選択肢のマッピング、批判的なインタラクションの支援の文脈から検討する。そして、ユーザーが自身の人生における選択肢を拡張するためには、システムの決定をユーザーが批判し覆せるシステムが必要であると結論づけ、批判可能なシステムを構築するための研究課題のリストを提案する。