Japan Association for Medical Informatics

[4-H-1-02] The European Commission's Proposal for a Regulation on AI and its Implications for Japan

*Masaki Fukuda1 (1. Osaka University Research Center on Ethical, Legal and Social Issues)

欧州委員会は、2021年4月21日に、人工知能に関するルールを定める規則の案(以下「AI規則案」という。)を公表した。AI規則案は、2020年2月に同委員会が公表した「人工知能に関する白書」、同白書において提示された政策オプションに対する影響評価の結果等に立脚して提案されたものであり、信頼できるAIのための法的枠組みを提案することにより信頼のエコシステムを形成することを図るものと説かれている。AIシステムの上市、供用及び使用の全体にわたる法的枠組みとしては、世界初のものと見られる。
 AI規則案は、AIシステムの使用によりもたらされるリスクに比例して規制を違えるアプローチに則っている。安全、生活及び権利に対する明白な脅威と見られる一定のAIシステムの使用(サブリミナル技術による人の操作等)は、容認できないリスクをもたらすものとして、原則として禁ぜられる。健康及び安全又は人の基本的権利に対する重大なリスクを孕む一定のAIシステム(例えば、重要インフラ、教育又は職業訓練、雇用、労働者管理、必要不可欠な公私の役務等に用いられるもの)は「高リスクAIシステム」とされ、リスク管理システムの構築等一定の要求事項に適合すること、適合性評価の手続を経ること等の義務がプロバイダに課されるほか、利用者にも指示書に従って使用すること等の義務が課される。限定的リスクを孕むとされる一定のAIシステムについては、透明性の確保に関する一定の義務が課される(例えば、自然人と相互作用するAIシステムの場合には、プロバイダが利用者にその旨を通知する義務が課される。)。これらのほか、AI規則案には、規制サンドボックスの設定、欧州人工知能会議の設置、高リスクAIシステムに関するデータベースの構築、市場監視、罰則等に関する規定が設けられている。
 本報告においては、AI規則案を概観した上で、我が国への示唆に関し若干の考察を施す。