摘要
7月24日，黄仁勋发布了自己的第一条X帖子。 他转发的是一封题为《开放权重与美国AI领导力》的公开信。联署名单最初只有英伟达、微软、Meta、IBM等25家公司和机构，随后迅速扩展至约50家，OpenAI、谷歌、AMD、思科、Cloudflare和GitHub等先后加入。在美国主要前沿模型公司中，Anthropic成为唯一仍未签署的企业。 黄仁勋的配文只有一句：“世界既需要前沿闭源模型，也需要前沿开放模型。” 几天前，他在接受外媒采访时表达了更直接的立场，黄仁勋称，中国的开源模型“非常优秀”，表现优秀的开源模型就应该被使用。 这场集体表态发生在一个节点之后。7月中旬，月之暗面发布Kimi K3。根据官方披露，这款模型采用混合专家架构，总参数达到2.8万亿，拥有896个专家模块，每个Token仅激活其中16个，并支持100万Token上下文。 Kimi K3由此成为目前公开参数规模最大的开放权重模型之一。更受关注的是，它在智能体、编程和前端开发等多项评测中进入全球第一梯队。 一款来自中国、能够下载部署、性能接近顶尖闭源模型的系统迅速进入全球开发者视野。随之被重新讨论的，还有美国AI公司的模型壁垒、开放生态的竞争力，以及华盛顿应当如何对待中国模型。 一边是政府对技术扩散、模型蒸馏和国家安全的担忧，另一边是科技企业对模型供给、成本和创新空间的现实需求。黄仁勋的表态，也反映了博弈的中心地带。 01 开放模型进入前沿能力区 开放权重模型长期被视为闭源旗舰模型的补充方案：价格更低、部署更灵活，综合能力却往往存在明显差距。 Kimi K3改变了这种印象。 2.8万亿参数并不意味着每次推理都要调用如此庞大的计算量。混合专家架构会根据任务选择少量专家参与运算，在扩大模型知识容量的同时控制单次推理成本。 Kimi K3还采用混合线性注意力、注意力残差和低精度量化等技术，以降低长上下文和大规模推理带来的资源压力。 7月27日，月之暗面正式公开了K3的完整技术报告和模型权重。报告揭示了上述技术的具体实现方式：KDA（Kimi Delta Attention）以3:1的比例混合线性注意力与完整注意力层，前者负责高效处理长序列、后者在关键位置保持精度，类似视频编码中关键帧与差分帧的分工。