编程Agent可能是软件开发史上最昂贵的错误之一 文章

“我敢断言：把 AI Agent 引入软件开发，将会成为这个领域历史上代价最惨重的错误之一。” 说出这句话的人是 George Hotz。17 岁那年他第一个破解了 iPhone，后来又逆向工程了 PlayStation 3——Sony 因此把他告上了法庭。再后来他创办了 comma.ai，成了自动驾驶领域最不按常理出牌的人。 过去六个月，Hotz 把市面上叫得上名字的 AI 编程 Agent 全试了一遍。他用它们写过 tinygrad 的代码，用它们逆向过一个 USB 转 PCIe 芯片。他换过不同模型、不同 harness，也试过不同提示词。 上周日，他把自己的结论写成一篇博客，标题叫《永恒的 Sloptember》，认为大规模采用人工智能编码 Agent 将以灾难告终，或者至少接近灾难。 Hotz 的核心论点很明确：Agent 不是程序员。“Agent 不会编程，而且我们意识到它们不会编程这件事，正在变得越来越难。”他写道，“它们是一种高度复杂的统计模型，被设计出来模仿‘编程’这件事的分布。它们生成的东西就是坏的，只是坏得越来越隐蔽、越来越难查出来。而这，正是一个越来越精确的统计模型会带来的结果。” 1  AI 编程的两极：Karpathy 看见革命，Hotz 看见灾难  五天前，AI 圈最知名的研究者之一 Andrej Karpathy 刚刚加入 Anthropic，并公开表示一个明确的观点：AI Agent 已经彻底改变了软件开发。 现在，这两个人代表了行业尚未解决的一场争论的两个极端，而且双方都有足够的可信度来支撑自己的立场。 Hotz 并不是一开始就这么确信。他花了六个月时间，在真实项目中使用 Agent：包括为他的开源深度学习框架 Tinygrad 写部分代码，以及对一个 USB-PCIe 芯片做完整的固件逆向工程。但最后他的结论是，每一次他都本可以靠手工“做得更好、更快”。他观察到的模式是：“Agent 会把所有进展都提前堆在前面，然后递给你一个老虎机拉杆，让你不断去拉，指望它把最后的打磨做完。但它总是差那么一点。” Hotz 预料到了最显而易见的反驳： 在有人跳出来说“是你用错了”之前，我先说：不同模型、不同 harness、不同提示词，我都试过。问题不在这里。