新智元报道
新智元报道
GPT-5.5之前:模型只会按人类写好的脚本一步步执行; GPT-5.5与GPT-5.6(搭配Codex):能看着初步结果,自己设计下一轮实验; GPT-6 Astra、GPT-6 Sol与GPT-6.1 Sol:主Agent一旦发现异常信号,会当场拉起成百上千个子Agent并行跑对照实验。
采集轨迹:记录上万个Agent在沙箱里的完整运行步骤与报错; 聚类诊断:由轻量模型GPT-6 Luna构建相似度矩阵,把重复出现的报错归类; 合成沙箱:由GPT-6.1 Sol围绕薄弱环节,自动生成数千个合成仿真环境; 升级脚手架:让Codex在仿真环境里反复测试,自动迭代工具与编排逻辑。
每一次循环都会造出一个比出发时更强的系统。系统会自己找出败在哪里,围绕这些失败构建定向仿真,并为下一轮运行升级脚手架。
一阶矩(均值):就像市面上刷到95分的评测榜单,平均分好看,但一上生产环境照样出错; 二阶矩(方差):代表结果波动与噪音,提升小于噪音就不算真提升; 三阶矩(偏度与尾部):专门衡量那些被平均分掩盖、却会在真实业务里造成严重后果的罕见故障。
人类可以站到杠杆大得多的位置上,去想怎么做研究、怎么优化研究本身,而不用亲自去做研究。
参考资料:
https://openai.com/index/third-moment-research
编辑:摩西
文章原文
