摘要
前OpenAI安全副总裁、Thinking Machines Lab联创翁荔,又发新博客了。 这回讨论的是AI自进化,她提出了一条现实路径: 不一定从模型直接改写自己的权重开始,而是先从Harness开始。 这篇博客题为《Harness Engineering for Self-Improvement》。 其中,Harness可以简单理解为模型外部的运行系统,决定模型如何调用工具、管理上下文、读写文件、拆分任务、调用子Agent、验证结果,以及从失败中复盘。 DeepSeek研究员崔添翼也第一时间转发了,还画了重点: Harness方向的自进化,和模型方向的自进化一样,都是非常可能出成果的方向。 他还提出,Skill就是Harness自进化中比较初级的一种形式:从 prompt层面进行自进化。 博客原文信息量巨巨巨大,请各位看官做好心理准备~ 自进化可能先发生在Harness层 翁荔这篇博客讨论的核心概念,是RSI(Recursive Self-Improvement),递归自我改进。 这个概念最早带有很强的AGI色彩,指的是一个智能系统能够改进产生自身智能的机制,从而产生更强的后继系统。 但翁荔在这篇博客里,把这个问题拆得更工程化。 在今天的AI系统里,自我改进未必只意味着模型直接改写自己的权重。 它也可能意味着,模型改进训练流程、研究流程和部署系统,进而帮助下一代系统在真实任务中表现得更好。 △ 而Harness,就是部署系统里最关键的一层。 过去谈Agent,常见说法是「LLM+记忆+工具+规划+行动」。 但在翁荔看来,Harness已经不只是早期Agent框架里的几个模块,而是更接近运行时和软件系统设计。 它决定模型如何观察环境、如何行动、如何管理上下文、如何保存状态、如何评估结果,也决定模型能不能在一个长任务里持续迭代。 所以她的判断是:近期更可行的自进化路径,可能并非模型直接重写自己的大脑,而是模型开始优化自己获得答案的方式。 从Context Engineering到Self-Harness,优化层层递进 翁荔梳理了最近一批相关研究,可以看到一个很清楚的趋势: 优化对象正在从上下文、工作流,一步步深入到Harness本身。