摘要
神译局是36氪旗下编译团队，关注科技、商业、职场、生活等领域，重点介绍国外的新技术、新观点、新风向。 编者按：别再把AI当聊天工具了。智能体正靠疯狂烧Token接管真实工作，一场万亿级的“推理海啸”已无声引爆。文章来自编译。 2011年，软件蚕食了世界。至少马克·安德森（Marc Andreessen）是这么告诉我们的。但如果真是这样，为什么旧金山湾区依然存在？如果软件真的蚕食了一切，我们现在不应该都搬到纽约或迈阿密去了吗？ 实际上，让我们看看软件到底蚕食了什么：银行有了App，零售业有了网站，医院引进了电子健康档案（EHR）系统，而出租车只需点几下屏幕就能调度，再也不用在凌晨两点、甚至连自己在哪儿都记不清的时候打电话叫车了。 软件蚕食了界面，但实际的工作呢？大部分还是由人类来做。 客户因为账单争议打电话来，软件负责转接电话、弹出账户界面，并在结束后记录处理结果。但在整个过程中，依然是人类在倾听、判断是否适用退款政策、决定如何处理，并真正与客户沟通。信贷员审查贷款申请时，软件会显示信用评分并在屏幕上调出文件，但阅读这些文件并做出最终决定的还是信贷员自己。过去15年来，软件一直非常擅长扮演“管道”的角色，而核心的实际工作仍由人类承担。 现在，AI真的可以做这些工作了！一次客服电话正在变成一个智能体循环（agent loop）：系统处理语音识别，通过API查询账户，调取相关政策，推断客户是否符合条件，触发退款，并利用文字转语音（TTS）进行回复。一起保险理赔正在演变为文档录入，随后是保额核查、欺诈标记、准备金计算和结算流程，这一切都全自动地作为代码运行。一个编程任务已经可以包含30轮的文件读取、代码修改、测试运行和调整优化，期间完全不需要人类插手。 这些工作流中的每一个，本质上都是一段软件在循环中执行工具调用（tool calls）。如果你是一个看日志的推理服务商，你会发现处理账单争议的客服智能体和修复Bug的编程智能体看起来没什么两样。它们都是代码。 所以，软件再次开始蚕食世界，而这一次，推理（inference）正在真真切切地蚕食工作。那些被蚕食的工作负载，本质上只是披着人类外衣的“状态转移”和“异常处理”：客服电话、保险理赔、贷款审批、医疗行政、法律分析。