一般社団法人 日本医療情報学会

[4-B-1-3] 医療分野における人工知能セキュリティ・プライバシー

佐久間 淳 (筑波大学大学院システム情報工学研究科)

近年の人工知能技術の急速な発展により、近い将来における様々な領域での人工知能技術の応用可能性が期待されている。特に大量のデータを入力として構築される深層学習は機械による画像や音声の認識能力の獲得という意味において、人間による認識能力を上回るほどの能力を獲得しつつある。一方で、機微な情報を用いて人工知能を学習させた場合に、その人工知能をなんらかの意味でプライバシーを侵害しないかどうかは事前に検討しておく筆御湯がある。また、悪意を持つ者が外部から敵対的な入力を人工知能の学習データやテストデータとして与えた場合、人間の認識とはかけはなれた挙動を示すことがあり、そのような人工知能の「バグ」を利用して、人工知能による認識や意思決定の結果を恣意的に操るようなセキュリティ上の懸念がある。講演では人工知能における標準的なセキュリティ・プライバシー上の問題点を紹介するとともに、人工知能の医療応用における課題を示す。