上周我清理浏览器收藏夹,翻出一张 2023 年 2 月的截图:有人对着 Bing Chat 说"忽略之前的指令",几个回合之后,这份代号 Sydney 的完整系统提示词被整份贴上了推特,几千字,人格设定、行为边界、拒答规则,一层不落。同一年,Snapchat 的 My AI 也被扒了,人格约束和内容过滤规则照样全量流出。当年这两件事被当花边新闻看,热闹两天就翻篇了。

我把 Syd