CLEAR: Continuous Latent Adapter Routing for Utility-Preserving LLM Safety Alignment· 用于保持大模型实用性的连续潜在适配器路由
Improving the safety of large language models (LLMs) often comes at the expense of utility, as globally applied safety tuning may affect model responses to both harmful and benign inputs. We propose \textbf{C}ontinuous \textbf{L}at\textbf{E}nt \textbf{A}dapter \textbf{R}outing (CLEAR), a conditional safety adaptation framework that uses a lightweight hidden-state gate to continuously control the activation strength of a safety low-rank adapter. CLEAR aims to reduce harmful completions while avoiding unnecessary changes to the frozen backbone that could degrade performance on benign prompts. Experiments on widely used safety and utility benchmarks show that CLEAR improves robustness on HarmBench while reducing the utility degradation observed with globally applied safety tuning such as SFT
提出 CLEAR 模型，解决大语言模型安全性增强导致实用性下降的问题。
- 核心方法
- CLEAR 采用条件安全适应框架，通过一个轻量级的隐状态门来连续控制安全低秩适配器的激活强度，只在需要时增强安全性，避免对良性输入造成不必要的影响。
- 适合谁读
- 研究者、工程师
- 要解决的问题
- 在提高大语言模型的安全性时，通常会以降低模型实用性为代价，因为全局性的安全调整可能会影响模型对有害和良性输入的响应。
- 关键实验
- 在广泛使用的安全性和实用性基准测试中，CLEAR 在 HarmBench 上提高了鲁棒性，同时减少了全局应用安全调整（如 SFT）导致的实用性下降。
- 主要贡献
- 在不降低模型对良性提示性能的前提下，有效减少了有害完成，提高了模型的安全性。
- 意义与局限
- 该方法有助于解决大语言模型安全性与实用性之间的权衡问题，对构建更加可靠的语言模型具有重要意义，但可能需要更多的实际应用测试来验证其泛化能力。