[3I4-GS-11] AIと社会：

[3I4-GS-11-01] 人間による判断基準の事前提示がAIへの意思決定依存に及ぼす影響

〇土屋 祐太¹、馬場 雪乃¹ (1. 東京大学)

キーワード：人間AI協調意思決定、AI依存、ヒューマンエージェントインタラクション、羅生門集合、AIの説明可能性

全ての判断をAIに代替させることが適さない業務に対し、人間とAIが補完的な役割を果たした協調型の意思決定プロセスが求められる。しかし、AI が提示した推奨事項に対して人間が単に承認または拒否を行う従来のプロセスでは、AIへの過度な依存や、人間の意思決定精度の低下が課題となる。これに対して、人間が一度予測を行った後にAIの推奨事項を確認し、最終的な判断を下す方法が有効とされているが、実社会の複雑なタスクは人間にとって事前に予測を提示する負荷が大きく、十分な検討を行わずAIに頼ってしまう懸念がある。本稿では、人間が予測を決定する前に判断基準の仮説をAIに提示することが、従来法と比べてAI依存へ与える変化を調査する。具体的に、人間が判断基準として重視する特徴量を選択すると、AIは類似した予測精度を持ちながら異なる判断基準を持つ羅生門集合を参照して、その基準に適合する予測を提示する。この作業を繰り返し、多様な判断基準に対するAIの予測を踏まえて、人間が最終的な判断を行う。生徒のプロフィールをもとに成績を予測するタスクにおいて、多角的な仮説検証がAIへの適切な依存につながることを確認した。