[2F4-OS-5b] 複雑化社会における意思決定・合意形成のためのAI技術(2)

[2F4-OS-5b-05] ロボットの規格から見た自律システム社会受容性の課題

–インタラクティブシステムにおける意思決定のための要件化-

〇福住 伸一¹、佐倉 統^2,1、中川 裕志¹ (1. 理化学研究所、2. 東京大学大学院情報学環)

キーワード：インタラクション、ロボット、標準

本稿では、産業ロボットの規格の視点から、自律システムの社会受容性についての課題を述べている。産業用ロボットの操作者や関係者の安全面に関する規格を自動運転車（レベル３）に適用しようとすると、３つの新たな要件が必要なことがわかった。それらは、1) 機器単体ではなく、それらが存在する社会システム全体に対して、自律システムが存在することを認識させること、2) その上で、それらの機器がどのような状態で作動しているのかをシステム内で認識できるようにすること、3) たとえ安全対策が施された機器であっても、人間に近寄りすぎた場合などは、停止モードに入るとともにその状態を人間に知らせるようにすること、である。近年、ロボットや自律システムと人とのインタラクションに関する規格が策定されつつあるので、それらも踏まえて要件化をしていく