1 引言

大语言模型上线前通常会经过一轮「安全对齐」(Safety Alignment)——通过 RLHF、Constitutional AI 等技术,让模型学会在遇到有害请求时拒绝回答。对齐模型的「拒绝」能力看似可靠,但它有一个隐含前提:模型必须先认出眼前的请求是有害的。

攻击者正是盯上了这个前提。2026