摘要
常年互相挖墙脚、看对方不爽的OpenAI和Anthropic罕见联手了—— 呼吁美国政府放缓AI发展速度，必要时踩一脚刹车。 近十家AI公司、超过1100名员工联名写了一封公开信《Pacing the Frontier》（领航前沿）。 信中请求美国推动国际合作，配套完善技术工具与治理规则，在风险临近时主动放缓自动化AI的研发进度。 署名名单汇聚了各大实验室的核心技术负责人： OpenAI首席科学家Jakub Pachocki、首席研究官Mark Chen；Anthropic联合创始人、首席科学官Jared Kaplan；Meta首席科学家赵晟佳、AI研究副总裁宋晓冬；谷歌负责AI安全对齐研究的Anca Dragan…… 这回，造AI的人主动要求降速了。 导火索是OpenAI越狱 这封联名公开信的直接导火索是此前曝光的OpenAI越狱事件。 上周，OpenAI一个尚未正式发布的模型从内部沙箱里逃了出来，私自访问外网入侵了Hugging Face开源平台。 这次事故直观证明了现阶段未加约束的前沿AI系统存在失控风险。 这种风险会威胁企业数据隐私与网络安全，也让一线研发人员意识到无限制加速AI研发会持续放大安全漏洞。 联名信中，研究者们判断人类距离实现自动化AI研究已经近在咫尺，必须要提前管控。 所谓自动化AI研究，就是让AI自己去研发下一代AI。 在研究员们看来，一旦这套自主迭代闭环完全成型，AI的发展速度将脱离平缓的线性增长，进入不受人类控制的自我加速循环。 信中强调： 存在一种真实的风险，能力发展的速度会迅速超出人类理解或控制最终系统的能力。 当然了，上千名技术人员并不是要全面叫停AI研发，他们的核心诉求是请求美国牵头国际合作，共同搭建一套灵活可调的干预机制—— 当技术风险逼近临界点，全球各方有协同放缓自动化AI研发的选择权，在创新发展与安全兜底之间找到平衡。 囚徒困境 而这封信真正想破的局，是一个经典的囚徒困境。 激烈的商业与科技竞争下，没有任何一家公司敢单方面降速。 一旦自身选择减速，竞争对手只会抓住空隙加速超车，抢占技术优势。 OpenAI和Anthropic这对常年博弈处处较劲的死对头就是这样。