摘要
向SEC秘密递交了IPO文件三天后，Anthropic突然抛出一篇万字长文，呼吁全世界为前沿AI开发准备一个“刹车”。又过了五天，它上线迄今最强的模型Claude Fable5，同时发布不设限版本Mythos5。 递表、喊停、上新，都发生在十天内。 这篇6月初发表的文章名为《When AI Builds Itself（当AI开始构建自身）》，由Anthropic研究负责人Marina Favaro与政策负责人、联合创始人Jack Clark共同执笔。其核心概念是“递归自我改进”，即AI几乎无需人类介入，就能自行设计、训练并升级出下一代自己。 过去几年，AI流行的风险被视为“AI替代人”。Anthropic这一次把问题往前推了一层，当AI开始替代AI研究者，技术进步就不再只是线性加速，而可能进入自我加速。 另一家AI巨头OpenAI，也加入了这场刹车讨论。 6月8日，OpenAI发布由首席执行官Sam Altman与首席研究官Jakub Pachocki联署的战略愿景文件，提出应建立一个国际组织，协调全球领先AI开发，并在必要时“放缓前沿开发”，让社会韧性、安全和对齐研究跟上技术进步。 一边是估值逼近万亿美元、冲在公开市场最前面的赛车手；一边是提醒全世界“我们手里只有油门，没有刹车”的吹哨人。两种身份，集于一身。 于是问题来了：这究竟是发自良知的警告，还是领先者在为下一程竞争，提前划赛道规则？ 01.Anthropic到底在怕什么？ Anthropic这篇长文最令人不安的地方，是它把风险的发生地，从外部世界拉回到了AI公司内部。 在Anthropic内部，一个人资历越深，接到的任务就越开放。打个比方，新人的任务如果是“导出按钮坏了，修一下”；那么资深员工则要查清“为什么高负载下网络会变慢”；更高层的可能要回答“团队下个季度该做什么”。 如果把AI比作一名普通员工，那么它正顺着这个金字塔一步步往上爬。 早期，AI只是补全工具，人类写代码、搭系统、训练模型。后来，它能生成代码片段、修复Bug。再往后，编码智能体开始自己运行代码，把几小时的工作交给另一个智能体完成。Anthropic称之为“闭环”——未来，智能体可能具备自行构建和训练模型的能力。若真如此，Claude的后续版本，将由Claude自己持续改进。