[3F5-OS-42b] OS-42

[3F5-OS-42b-01] AI Safety in a Global Context: Developments and the Role of the AI Safety Institute (AISI)

〇Akiko Murakami^3,2, Kazuhiro Taga^1,2, Takayuki Semitsu^1,2, Satoshi Sekine⁴ (1. Information-technology Promotion Agency, Japan, 2. Japan AI Safety Institute, 3. Sompo Japan Insurance Inc., 4. National Institute of Informatics Research and Development Center for Large Language Models)

Keywords:AI, AI Safety, AI Risk

生成AIや基盤モデルの進化に伴うAI技術の高度化・汎用化により，その利用範囲が急速に拡大するとともにAIのリスクに関しても関心が高まっている．AI技術の発展のためには安心安全なAI活用の実現が不可欠であり，そのためにはどのようなリスクが現在顕在化しているのかの整理と，今後どのようなリスクが起こり得るのかについての議論が急務である，また，技術的にそれらのリスクをどのように捉えることが可能かと言うことも検討していく必要がある．本稿では，そのようなAI安全性について情報のハブとなるべく設立されたAIセーフティイン・スティテュート（AISI）の取り組みを紹介するとともに，今後のAI安全性について研究業界にどのような活動をしてもらいたいか述べる．加えて，国際的なAIセーフティの議論や国際AISIネットワークの状況を概観し，将来的なAIセーフティの方向性について考察する．