[3F5-OS-42b] 大規模言語モデルの安全対策 ― 大いなる力には、大いなる責任が伴う

[3F5-OS-42b-01] AIの安全性に関する世界の動きとAI Safety Institute（AISI）について

〇村上 明子^3,2、多賀 和宏^1,2、瀬光 孝之^1,2、関根 聡⁴ (1. 独立行政法人情報処理推進機構、2. AIセーフティ・インスティテュート、3. 損害保険ジャパン株式会社、4. 国立情報学研究所　大規模言語モデル研究開発センター)

キーワード：人工知能、AIセーフティ、AIリスク

生成AIや基盤モデルの進化に伴うAI技術の高度化・汎用化により，その利用範囲が急速に拡大するとともにAIのリスクに関しても関心が高まっている．AI技術の発展のためには安心安全なAI活用の実現が不可欠であり，そのためにはどのようなリスクが現在顕在化しているのかの整理と，今後どのようなリスクが起こり得るのかについての議論が急務である，また，技術的にそれらのリスクをどのように捉えることが可能かと言うことも検討していく必要がある．本稿では，そのようなAI安全性について情報のハブとなるべく設立されたAIセーフティイン・スティテュート（AISI）の取り組みを紹介するとともに，今後のAI安全性について研究業界にどのような活動をしてもらいたいか述べる．加えて，国際的なAIセーフティの議論や国際AISIネットワークの状況を概観し，将来的なAIセーフティの方向性について考察する．