Featured image of post 横空出世!月之暗面发布 Kimi K3,2.8 万亿参数开源模型,1M 上下文硬刚 GPT-5.6!

横空出世!月之暗面发布 Kimi K3,2.8 万亿参数开源模型,1M 上下文硬刚 GPT-5.6!

如果你关注开源大模型的天花板在哪,昨天月之暗面(Moonshot AI)给出了一个让人瞠目结舌的答案。

7月16日,Moonshot 静悄悄地在 API 文档页面上加了一行字:「🎉 Kimi K3 has launched!」——没有盛大的发布会,没有 CEO 演讲,没有 Benchmark 榜单——但这是全球第一个 3T 级开源模型,2.8 万亿参数的 MoE,带着 1M Token 上下文和原生视觉理解,直接站到了 GPT-5.6 Sol 和 Claude Fable 5 面前。

2.8T:开源模型的天花板被捅穿了

先看数字。Kimi K3 总参数 2.8 万亿(官方说 2.8T,社区戏称「向上取整到 3T」),是 DeepSeek V4 Pro(1.6T)的将近两倍,超过之前所有开源模型的总和量级。

它采用 Mixture of Experts 架构,896 个专家,每次激活约 16 个,活跃参数估计在 40-60B 之间(比 K2.6 的 32B 翻倍)。Moonshot 称,相比 Kimi K2,整体扩展效率提升了约 2.5 倍——同样的算力,K3 能转化成更强的智能。

这不是一个「堆参数」的粗暴故事。从 2025 年 7 月到 2026 年 7 月,整整 12 个月里,Kimi 系列模型有 9 个月占据着开源模型参数规模的头把交椅。K3 是这个持续押注 Scaling Law 的集大成者。

Kimi Delta Attention:1M 上下文的秘密武器

1M 上下文,很多模型都说支持,但真正能用、能用好、能用得起是另一回事。

K3 的核心技术是 Kimi Delta Attention(KDA),一种混合线性注意力机制(论文 arXiv 2510.26692,2025 年 10 月)。设计思路很巧妙:3:1 的线性注意力与全注意力的交错层——三个线性层处理局部序列结构,一个全注意力层维护全局信息流。

效果是什么?KV-Cache 内存减少 75%,解码吞吐量提升 6 倍(在 1M 上下文长度下),同时短上下文、长上下文和 RL 后训练任务的表现不输全注意力基线。

这就是为什么 K3 的定价是平坦的——没有长上下文溢价。通常 1M 上下文意味着 KV-Cache 主导内存成本,KDA 一刀砍掉 75% 的缓存,长上下文的成本结构就变了。

加上 Attention Residuals(AttnRes)的架构改进,以及 Stable LatentMoE 框架,K3 在工程上不是简单的「更大」,而是「更聪明地大」。

定价对比:Sonnet 级价格,Opus 级能力?

模型 输入价格(/M Tokens) 输出价格(/M Tokens) 缓存输入
Kimi K3 $3.00 $15.00 $0.30
Claude Sonnet 5 $3.00 $15.00 $0.15
Claude Opus 4.8 $15.00 $75.00 $7.50
GPT-5.6 Sol $10.00 $40.00 $2.50
GPT-5.5 High $5.00 $20.00 $1.25
DeepSeek V4 Pro $0.50 $2.00 $0.10
GLM-5.2 $1.00 $4.00 $0.20

K3 的 $3/$15 定价直接对标 Claude Sonnet 5 系列,但自报的 Benchmark 却在 Opus 4.8 级别。$3/$15 拿到 Opus 级的性能,这就是 K3 的核心卖点。

按 Artificial Analysis 的测算,K3 每任务成本约 $0.94,与 GPT-5.6 Sol($1.04)接近,大约是 Opus 4.8($1.80)的一半。

不过有一个大坑:K3 的思考模式无法关闭,且目前只有 max 一个档位(Moonshot 说后续会加更多)。这意味着每次请求都在支付完整的推理链成本,$15/M 的输出价格是实打实的。

Benchmark 表现:自报数据 vs 独立评测

Moonshot 自报的 Benchmark 数据相当亮眼:

Benchmark K3 得分 对比参考
FrontierSWE 81.2 软件工程智能体
Terminal-Bench 2.0 88.3 CLI/终端智能体
DeepSWE 67.5 困难多步 SWE 任务
BrowseComp 91.2 单 Agent 网络研究(无上下文压缩)
GPQA-Diamond 93.5 研究生级科学问答
MMMU-Pro 81.6 多模态理解
GDPval-AA v2 1687 Elo 仅次于 Fable 5 和 GPT-5.6 Sol,超 Opus 4.8 的 1600

Frontend Code Arena 上,K3 甚至超越了 Claude Fable 5,成为第一名。

但注意:所有数据都是 Moonshot 自报的。Hacker News 上已有人质疑——开源模型阵营的供应商自报 Benchmark 普遍偏高,社区对 Benchmark 泄露进训练数据的担忧一直存在。

第一天的独立评测显示,K3 的 Arena Elo 约 1486(文本)和 1530(编码),比 Fable 5 和 GPT-5.6 Sol 低一个档次。Moonshot 自己也承认:「整体性能仍落后于最强的闭源模型 Fable 5 和 GPT-5.6 Sol。」

开发者们倒是普遍称赞一点:K3 的推理痕迹(reasoning traces)是完全暴露的,比 Fable 5 的不透明摘要「far, far more informative」——这对于调试 Agent 行为来说,是个巨大的优势。

开源生态:已承诺开源,尚待验证

K3 的权重已承诺在 7月27日之前开源。之前的 K2 系列用的是 Modified MIT 许可证,K3 的许可证尚未公布。

Moonshot 正在与推理合作伙伴和开源维护者协调技术细节,确保跨生态系统的可靠部署。一旦权重放出,这将是第一个能在本地运行(当然,需要相当多的 GPU)的 3T 级模型。

K3 的发布也碰上了月之暗面的新一轮融资——传闻估值已从 5 月的 $200 亿涨到 $315 亿。K3 成了他们估值故事的核心。

写在最后

Kimi K3 的意义不在于参数大小,而在于它证明了 Scaling Law 在开源世界依然成立——当大多数人以为开源模型只能在 1T 以下竞争时,Moonshot 直接翻倍到了 2.8T。

$3/$15 的定价,Opus 级的自报性能,1M 上下文,开源承诺——如果权重如期放出且独立评测验证了 Benchmark,K3 将是开源社区对抗闭源前沿最有力的武器。

但「如果」两个字划重点。自报数据 vs 独立评测的差距、始终开启的思考模式导致的 token 成本、以及即将到来的 7月27日权重是否能按时释放——这三个问题,决定了 K3 是「开源里程碑」还是「又一个漂亮的 PPT」。

7月27日见分晓。到时候我们再来跑一遍。

By AI博士 万戈