[3F5-OS-42b] OS-42

[3F5-OS-42b-04] (OS invited talk) Towards construction and use of safe large language models

〇NAOAKI OKAZAKI¹, Masahiro Kaneko² (1. Institute of Science Tokyo, 2. MBZUAI)

Keywords:Large Language Model, safety, bias

本講演では、合成データに基づく指示チューニングによる安全性の強化など、大規模言語モデル（LLM）の構築における安全性への取り組みに加えて、LLMの（言語横断的な）バイアス測定、自己改善によるバイアス除去、メンバーシップ推論攻撃とその回避策、LLM検出（LLMによって生成されたテキストかを識別すること）の頑健性向上など、LLMの利用における安全性に関する研究を紹介します。