[3F4-OS-42a] OS-42

[3F4-OS-42a-04] Towards a Safe Large-Scale Multilingual and Multicultural Language Model

Implications and Issues from the International Red Teaming Challenge

〇Arisa Ema¹ (1. The University of Tokyo)

Keywords:LLM, Safety, Multicultural and Multilingual

生成人工知能（AI）の利用が世界的に広まるにつれ、AIモデルが地域ごとの文化や言語におけるリスクや懸念を敏感に反映できることがますます重要になっている。何がリスクや有害なコンテンツなのかを地域・文化ごとに特定する作業を更新し続けていくことが必要となり、そのためには多様な分野や専門性を持つ人との協業が重要となる。
本発表では2024年11月から開催されたシンガポール政府のイニシアティブの「AI安全性レッドチームチャレンジ」の参加した知見から得られた、国際的な議論や学際的な協力体制における課題について考察する。