[4M1-OS-14a] 信頼と納得の人-AIインタラクション

[4M1-OS-14a-05] 医療専門家のアルゴリズム忌避抑制：AI使用における心理的要因とAI出力使用率との関係性特定の試み

〇三宅 圭音^1,2、尾崎 公美³、山田 誠二^2,1 (1. 総合研究大学院大学、2. 国立情報学研究所、3. 浜松医科大学)

キーワード：アルゴリズム忌避、ヒューマンAIインタラクション、医療AI

医療分野におけるAI技術の進展は目覚ましく，診断支援の精度と効率は日々向上している．しかし，医療専門家は使用しているAIが高性能だと分かっていても，人間を優先することがあり，この現象は「アルゴリズム忌避」と呼ばれる．医療現場では様々な要因による医療過誤が深刻な問題であり，AIによる支援システムを活用すれば防げるはずのヒューマンエラーが，アルゴリズム忌避により見過ごされる可能性がある．このため，AI支援を受ける現場では，安全性向上のためにアルゴリズム忌避への適切な対応が不可欠である．本実験では，医療専門家のAIシステムに対する態度を形成する心理的要因として，AIに対する制御感や責任感などに着目し，これらがAI出力の使用率（リライアンスレート）に与える影響を定量的に分析する．分析では質問項目を使用し，リライアンスレートとの相関を統計的分析によって検証する．本研究は，医療現場におけるAIとのインタラクション設計指針として活用されることが期待され，医療AIの社会実装における重要な課題である「人間とAIの協調」に関する理論的基盤の構築にも貢献する．