Kimi K3:深度解析Moonshot AI的旗舰模型

作者: Alex Khohlov

Kimi K3:Moonshot AI 的旗艦模型的簡要分析

2026年7月16日,中国公司Moonshot AI(月之暗面)发布了其迄今为止最强大的模型Kimi K3。这是一个稀疏专家混合(sparse Mixture-of-Experts, MoE)系统,拥有2.8万亿参数100万亿词元(tokens)的上下文窗口,以及专为长序列高效工作设计的混合注意力架构。该模型定位为Claude Opus 4.8和GPT-5.5的有力竞争者,在特定任务(如前端编码、代理系统、代码库处理)上展现出与这些闭源系统相当或更优的表现。

完整的模型权重预计于2026年7月27日公开。如果发布如预期般进行,Kimi K3将成为有史以来发布的最大规模的开放权重(open-weight)模型之一,其规模比前代模型大2.5倍以上。

公司与战略背景

Moonshot AI是一家成立于2023年、由杨植麟及其清华大学的联合创始人创立的北京实验室,以其开放策略和Kimi系列模型而闻名。公司获得了巨额投资:2026年5月,在美团龙珠资本等关键投资者(包括阿里巴巴和腾讯)的支持下,以200亿美元的估值完成了20亿美元的融资。2026年4月,季度经常性年收入(ARR)超过2亿美元。Kimi系列模型持续发展,从K2(1万亿参数)到K2.5–K2.7 Code,再到现在的K3,每一次都扩展了上下文长度并增加了多模态能力。K3在规模和架构创新方面都实现了质的飞跃,特别针对长代理任务和编码进行了优化。

架构创新:竞争优势的核心

1. Kimi Delta Attention (KDA) - 一种混合线性注意力机制,发展自Gated DeltaNet的理念,并已在2025年发布的开源模型Kimi Linear中得到验证。与需要O(n²)内存和计算量的经典二次注意力不同,其大部分层使用线性复杂度方案,并带有通道(channel-wise)对角线门控。实际优势包括:

  • 在类似架构中,KV缓存消耗降低高达75%,这对于处理数百万词元的上下文至关重要;
  • 在数百万词元的上下文中,解码速度提升高达6.3倍,使得长会话几乎可以实时进行;
  • 在长序列中保持检索质量,无显著性能下降。

KDA已开源CUDA核心(FlashKDA),并集成到vLLM中,用于生产环境部署。

2. Attention Residuals - 一种选择性地从早期层“提取”表示的机制,而不是通过标准的残差连接进行均匀累积。Moonshot报告称,在学习效率上提高了约25%,而额外成本仅增加约2%。在2.8T参数规模的模型中,这意味着训练资源的显著节省或同等质量的提升。

3. Stable LatentMoE - 一种极度稀疏的路由系统,其中896个专家中每个词元仅激活16个(占总数的1.8%),使用分位数平衡和每头(per-head)优化来稳定训练。这种稀疏性水平使得推理计算成本在庞大的参数量下仍保持在可接受的水平:由于MoE架构和16个活跃专家,每个词元实际激活的参数量远低于2.8T。

4. 量化与效率 - 该模型最初使用MXFP4进行权重量化,MXFP8进行激活量化,选择该方案是为了兼容各种硬件。Moonshot宣称,与K2代相比,其可扩展性效率(scaling-efficiency)提高了约2.5倍,意味着相同的计算量能够实现更多功能。

技术规格

参数数值

总参数量

2.8万亿

活跃专家

896个中的16个(每个词元1.8%)

上下文窗口

1,048,576个词元(1M)

模态

文本 + 图像/视频 → 文本(原生视觉)

主要架构

稀疏MoE + Kimi Delta Attention + Attention Residuals

量化

MXFP4(权重)/ MXFP8(激活)

推理

始终开启(“思考模式”),初期仅最高强度,计划加入低/高强度模式

独立及官方基准测试:真实的性能图景

在特定任务上领先:在前端/WebDev Arena(开发者偏好度)上,K3以1679 Elo获得第一名,在盲测中超越了Claude Fable 5(1631)和GPT-5.6 Sol(1618)。这是比K2.6高出17个名次,并在7个前端领域(不包括游戏)中的6个领域获得第一名。

整体性能:在Artificial Analysis Intelligence Index v4.1(独立评估,聚合9个基准测试:GDPval-AA、推理、编码、代理任务)上,K3获得57.1分,位列全球第四,仅次于Fable 5(约60)和GPT-5.6 Sol(约59),但高于Claude Opus 4.8(约56)。

编码与代理系统:

  • Terminal-Bench 2.1:88.3分(接近GPT-5.6 Sol的88.8分,显著高于Claude Fable 5和Opus 4.8,均为84.6分)。
  • GDPval-AA v2:1668 Elo,位列第三,仅次于Fable 5 Max(1815)和GPT-5.6 Sol Max(1747.8),领先于Opus 4.8(1600)——这是知识、推理和分析任务的标准测试。
  • GPQA-Diamond:93.5%——在该高难度基准测试(博士毕业水平知识)上取得的最佳开放结果。
  • BrowseComp(Web代理):91.2%(所有对比模型中的最佳结果),在未压缩的完整1M上下文上为90.4%。
  • AA-Briefcase(长期知识/代理):1548 Elo,位列第二,仅次于Fable 5,领先于GPT-5.6 Sol。

一些独立测试者注意到其输出的“话痨”倾向有所增加,这可能导致词元消耗增加,但在核心编码和代理任务中,由于推理词元的优化,词元使用量比K2.6低21%。

定价与可用性

API费率:每百万输入词元(cache miss)3.00美元,缓存输入0.30美元,每百万输出词元15.00美元——这是所有中国实验室中最高的,但与Claude Sonnet的价格相当,并且大约是GPT-5.6 Sol(30美元/百万输出)的一半。相比之下,K2.6的价格为输入0.60美元/输出2.50美元,因此输入和输出分别上涨了5倍和6倍,反映了规模和质量的显著飞跃。

可用性:Kimi Code、Kimi app(包括iOS)、Moonshot OpenAI兼容API、OpenRouter。完整的1M上下文需要订阅Allegretto或更高版本;Moderato限制为256K。

促销活动:发布伴随促销活动,在2026年7月15日至8月11日期间充值可获得+10-30%的额外积分。

开放权重发布:预期与意义

在发布时(7月16日),权重尚未公开。Moonshot已正式承诺于2026年7月27日发布完整权重,采用接近K2系列的Modified MIT许可证。发布权重后,K3将成为在规模(2.8T)、上下文(1M)以及编码/代理能力综合来看,最强大的免费可用模型,这意味着可以在相应的硬件(完整模型至少需要64个加速器)上进行本地开发、微调和研究。

战略意义与竞争背景

Kimi K3的出现正值中国AI产业的关键转折点。继2025年1月DeepSeek崛起(低成本计算下的R1)后,Moonshot在Kimi的活跃用户数方面从第三名下滑至2025年6月的第七名。K3是Moonshot通过规模和架构创新重夺市场地位的有意为之的赌注。投资者称之为潜在的“Kimi时刻”(类似于一年前DeepSeek带来的冲击),并且有充分理由相信:该模型并非通过廉价(它很昂贵)而是通过质量和规模来缩小与西方前沿模型的差距。

结合2.8T参数、1M上下文、原生视觉、始终开启的推理以及强大的编码能力,K3特别适合以下场景:

  • 代理系统和长程工作流(复现用户界面、多步开发、自主工程任务);
  • 大型代码库的开发和重构(在一个著名案例中,K3使用开源EDA工具自主设计了一个微芯片,耗时48小时);
  • 具有海量上下文的研究和分析任务(法律文件、财务报告、大型代码库的代码审查);
  • 希望进行自托管并独立于闭源API的公司,而非依赖Anthropic或OpenAI。

然而,仍存在重要的保留意见:权重尚未发布,独立复现和详细技术报告仍在开发中,某些基准测试使用了专有评估框架(KimiCode而非标准测试)。在7月27日权重可用且出现关于开放版本模型的独立评估后,真实情况将更加明朗。

总结:Kimi K3是2026年上半年最重要的人工智能发布之一。它不仅仅是“又一个大型中国模型”,而是有潜力跻身前沿模型行列的有力竞争者,尤其在代理编码、长上下文和多模态推理等特定任务上。架构创新(KDA、Attention Residuals、Stable LatentMoE)证明了中国实验室在工程技术方面已达到西方顶尖水平。如果开放权重发布能按计划在7月27日进行,将对开源生态系统和竞争格局产生深远影响:开发者将首次能够独立于闭源API,获得如此规模和质量的模型。

22 浏览量

來源

  • Artificial Analysis Intelligence Index v4.1 scores

  • Kimi K3 Frontend Code Arena results

  • China's Moonshot AI raises $2B at $20B valuation

  • Moonshot AI - Wikipedia

  • What Is Kimi K3? Moonshot's 2.8T, 1M-Context Flagship

  • Kimi K3 - Kimi API Platform

  • Build Fast with AI - Kimi K3 vs K2 Comparison

  • DeepSeek's Rise and Moonshot's Pivot - VentureBeat

  • Kimi K3: World's First Open 2.8T Parameter AI Model

  • Kimi K3 Benchmarks: Ranking vs Frontier & Open Models

  • Simon Willison - Kimi K3 analysis

  • Bloomberg: Moonshot Unveils Kimi K3 AI Model

  • TechCrunch: Moonshot's upcoming Kimi 3

  • The AI Insider: Moonshot AI Closes $2B Funding Round

  • Tom's Hardware: Moonshot releases 2.8-trillion-parameter Kimi K3

阅读更多关于此主题的文章:

微软出的 Go 版智能体框架,用来搭多智能体工作流并往生产环境部署。 这是微软 Agent Framework 的 Go 语言版本,专门用来写能上生产的 AI 智能体和多智能体协作流程。它支持多家大模型提供方,配上可插拔的中间件,还有一张图把工作流串起来——顺序、并发、条件分支、检查点、人工介入都能画。

114
Reply
发现错误或不准确的地方吗?我们会尽快处理您的评论。