[4D2-OS-6] 人工知能と倫理

[4D2-OS-6-04] 人間中心設計の観点からみたSF映画の中のAI

〇飯塚 重善¹ (1. 神奈川大学)

キーワード：人間中心設計、SF映画

本発表では、映画『アンドリュー』、『A.I.』、『アイ、ロボット』などを対象に、これらの作品中に描かれているAIを、人間中心設計の観点から考察する。
一般的に、AIを含む情報システムの設計では、設計者が何を問題設定しているかが重要である。さらには、基本的にその設計者の倫理観、よかれと思うことが拠り所になっている。もちろん人間中心設計（Human Centered Design）において、利用者が果たしてどんな文脈で、どういうふうに絞ればわかるだろうか、をユーザー視点で考え、最善のものを作ろうとはしている。
あるサービス仕様は、顧客、ユーザーにとって正しいかもしれないが、それではスポンサーがつかなくなるかもしれない。するとサステナブルにビジネス（実運用）を続けられなくなり、結局継続できなくなってしまい、顧客に迷惑をかけてしまうかもしれない。こうした意味から、ビジネス（実運用）とのバランスは考えなければいけない。ただし、そこで重要なのは、できる限り顧客つまりユーザーのためにフェアであろうとする努力目標を持つことである。