还在纠结「本地 or 云端」？Perplexity 的「任务路由」彻底解决 AI 难题 文章

不是问题的问题。作者｜ 桦林舞王 编辑｜ 靖宇   当地时间 6 月 2 日，Perplexity 在 Computex 2026 的 Intel 主题演讲上，做了一个很多人没太在意、但可能改变整个 AI 应用行业走向的演示。 不是新模型，不是更快的搜索，而是一套「任务路由」系统。 简单来说，就是 AI 自己决定哪些事在你的电脑上做，哪些事扔给云端——而不是让用户去选。 CEO Aravind Srinivas 和 Intel CEO Lip-Bu Tan 站在台上，在一台跑着 Intel Core Ultra Series 3 芯片的设备上演示了全程。本地模型负责判断，云端模型负责执行复杂任务，两者之间的调度对用户完全透明。 这件事听起来像是一个工程细节，但背后藏着一个更大的问题： AI 应用的架构之战，已经从「谁的模型更强」，悄悄转向了「谁能把资源调度得更聪明」 。   01 本地 VS 云端   过去两年，AI 行业走了一条很直接的路：算力不够？加算力。模型不够大？加参数。隐私有顾虑？那就……先搁置。 但企业用户不会永远搁置隐私问题。 一个典型的场景是：你让 AI 助手帮你整理会议记录，里面可能有未公开的财务数据、客户信息、合同条款。这些东西传到云端，法务部门就会来敲门。但如果只用本地模型处理，算力撑不住，效果又打折扣。     Perplexity 在跑任务时关注到了数据隐私问题｜图片来源：Perplexity   这就是 Perplexity 混合推理（Hybrid Agentic Inference）试图解开的死结。 它的核心逻辑不复杂—— 让本地模型先做「侦察员」，判断每一个子任务的敏感程度和复杂度，然后决定是留在本地处理，还是打包发给云端的前沿模型 。用户不需要做任何选择，系统自动完成路由。 据技术分析，任务分类发生在 API 层。「这是 5 个 token 的问答，还是 500 个 token 的代码生成请求？」——本地模型用 4 位量化处理前者，内存占用减少约 75%；云端模型接管后者，但在传输前会做确定性哈希处理，防止原始数据泄漏。 理论上， 边缘设备的往返延迟可以因此降低 60% 。 当然，「理论上」这三个字很重要。   02 从「AI 搜索」到任务路由…

摘要可能不完整，可查看原文