[4T3-OS-6d] 信頼と文脈のインタラクションデザイン

[4T3-OS-6d-03] 読影タスクにおけるAI出力の調整機能によるアルゴリズム忌避の抑制

〇三宅 圭音^1,2、山田 誠二^2,1 (1. 総合研究大学院大学、2. 国立情報学研究所)

キーワード：ヒューマンエージェントインタラクション、アルゴリズム忌避、人工知能

現代社会において, 人工知能(AI)の利用は日常的であり, AIとの協力がますます重要性を増している. しかし, AIの能力が人間より高いにもかかわらず, AIの出した結果ではなく人間の出した結果を優先してしまう現象があり, それをアルゴリズム忌避と言う. 専門性の高い人はアルゴリズム忌避が高い傾向にあり, アルゴリズムの出した結果を参考にしないことがある. 例えば, 読影医は非常に高い技術を要求され, 専門性が高い職業の一つであり, アルゴリズム忌避が起こりやすい状況にある. 過去の研究では, AIの出力をわずかでも調整することができればアルゴリズム忌避が軽減される可能性が示唆されている. この背景から, 本研究の目的は, 胸部X線画像のセグメンテーションタスクにおいてAI出力の調整によるアルゴリズム忌避の抑制ができるかを実験的に解明することである. 具体的には, AIの出力を変更できる状況であれば, AIへの印象が良くなり選択する傾向が高くなることを検証する. これにより, 読影医によるアルゴリズム忌避が抑制され, AIとの協力が促進されることが期待される.