摘要
Token成为"硬通货"之后,四股力量正快速布局。 “现在你有多少Token就能卖多少,整个市场供不应求。”百度智能云AI与大模型平台总经理忻舟告诉数智前线,原来大家Token都是打折卖的,现在加价都买不到,推理诉求变得非常强。AI Infra企业是石科技联合创始人毛运航则观察,整个市场正从买方市场转向卖方市场,“以前API是降价的,是亏钱的,Token现在必须保证一定消耗量,才能够给到比较好的价格和供应。”阿里云资深副总裁刘伟光给出了一个数字,过去5个月,阿里云Token调用量增长了15倍。 在Token变得紧俏之后,四个力量——云大厂、模型公司、运营商,以及AI Infra企业,已快速布局Token服务市场。 01 Token,从打折卖到加价都买不到 虽然Token销售紧俏,但各家云厂商并未借机敞开对外售卖,反而谨慎分配自家的GPU资源,平衡内部模型训练和对外Token销售。“大家意识到,训练出更好的模型能卖出更多Token。”一位大厂人士说,内部各部门都在抢卡,几方最后通过算账来争夺。而且,去年Token打折卖,直接卖硬件设备挣得多;现在局面反转,大家都在收缩纯硬件销售,“卖硬件不如卖Token”。 Token为何“一夜之间”如此抢手?原因是真实需求爆发。 刘伟光说,Coding成为巨大分水岭,它不仅生成新应用,还将在未来一年内解锁大量老系统——那些“程序太老、不能搬上云”的遗留应用,借助AI Coding可获得新生。更关键的是,非程序员也开始“编程”,每个人都可以自己做报表、做分析、做项目预算,生产力得到释放。 而智能体的普及,从技术层面放大了Token消耗。毛运航形容,“还什么都没做,Token就没了”。Agent有了“手脚”之后,完成一项任务每一步都在消耗Token,消耗量急剧增加。 过去两年,每家大厂都有Token销售的考核,字节看Token总量,阿里、百度、腾讯看模型调用次数,但执行起来很难。忻舟解释,“市场没有那么多真需求,很多都用的不太对,或者大材小用,比如拿大模型去做数据清洗或者小模型也能做的事,我们叫低质调用。”随着智能体技术和模型、Coding能力的跃升,一些真正有价值的应用涌现,而这些应用也是Token重度消耗者。
相关事件
暂无数据
相关公司
暂无数据
相关人物
暂无数据