文章摘要
Kimi推出新一代大模型Kimi K3，参数规模达2.8万亿，是全球首款开源的3万亿级别大模型。它搭载先进技术，支持视觉理解，有超长上下文窗口，适用于多种前沿场景。虽未追平顶级闭源模型，但在基准测试中表现前沿且领先开源模型。完整权重2026年7月27日前发布，还介绍使用方式，也指出模型的局限性。

犯其至难而图其至远者，发之以勇，守之以专，达之以强。

我们正式推出当前能力最强的新一代大模型，这是我们在通用人工智能领域的又一重要进展。

这款新模型参数规模达2.8万亿，是全球首款开源的3万亿级别大模型。它搭载了KDA混合线性注意力机制与注意力残差技术，原生支持视觉理解能力，同时拥有100万token的超长上下文窗口，专门面向长程编程、知识工作与复杂推理等前沿智能场景设计。

尽管该模型的整体表现仍暂未追平目前顶级的闭源模型，但在我们的全套基准测试中，它展现出了前沿水平的综合能力，并且稳定领先于其他所有开源模型。

此次K3的发布只是起点，我们将持续挖掘模型潜力，不断优化其在真实业务场景中的性能表现。完整的模型权重将于2026年7月27日前正式对外发布，关于模型架构、训练细节与评测结果的完整技术报告，也将随模型一同公布。

3万亿级开源模型基础

作为首款达到2.8万亿参数规模的开源大模型，K3是我们持续拓展开源模型规模边界的最新成果——在过去12个月里，我们的模型有9个月保持着开源模型的规模上限。K3基于KDA与Attention Residuals两大架构更新构建，这两项技术的核心目标是让信息在更长序列与更深层的模型结构中更顺畅地流动。

同时，我们进一步扩大了混合专家模型（MoE）的稀疏度：结合Stable LatentMoE框架后，模型可以在896个专家中高效激活16个。再配合训练方法与数据配方的优化，K3相比前代模型的整体扩展效率提升了约2.5倍，能够更高效地将算力转化为实际智能能力。

长程编程与工程能力

K3具备极强的长程编码能力，在极少人工干预的情况下，可以持续完成长时间的工程任务，理解并处理大型代码库，同时协调调用各类终端工具。它还擅长结合软件工程与视觉推理的任务，能够利用截图与视觉反馈，优化游戏开发、前端开发与CAD设计等场景的工作流程。

GPU内核优化测试

我们搭建了专属的内核优化竞技场，用于验证K3能否独立完成GPU内核的全流程优化。所有测试模型都在独立的GPU沙箱环境中运行，任务、测试框架与生产负载完全统一。在最多24小时的测试周期内，模型可以自主分析现有内核实现、重写代码并反复通过跑分验证效果。

测试竞技场覆盖两种硬件平台、三类内核与四项任务：包括NVIDIA H200 GPU上的Attention Residuals、KDA线性注意力，从零实现的512头维度MLA内核，以及某国产GPU上的KDA任务。在最大思考强度模式下，K3的表现接近搭载回退机制的Fable-5，同时明显领先于Opus 4.8、GPT-5.6 Sol与GPT 5.5等模型。

GPU编译器开发

我们还测试了K3从零构建GPU编程系统的能力。K3开发出了MiniTriton：一款紧凑的类Triton编译器，它基于MLIR构建了专属的tile级中间表示层，并实现了从优化pass到PTX代码生成的完整流水线。

在Roofline基准测试中，MiniTriton的性能达到或超越了Triton与torch.compile，在部分工作负载上表现优于Triton。目前它支持FP32与FP64计算，TF32与BF16的支持仍在开发中。尽管我们最初并未期待其早期Tensor Core实现能超过高度优化的Triton，但测试结果证明：在未针对基准测试走捷径、也没有明显硬编码优化的情况下，MiniTriton已经能够生成具有竞争力的GPU代码。

作为端到端验证，我们使用TensorLite训练了nanoGPT并观察到正常收敛，这说明K3不仅能生成孤立的内核代码，还能搭建起一套真正可用的编译器栈，包括编程抽象、中间表示、优化pass、后端代码生成以及接入真实训练负载的完整能力。

数字作品创作

K3融合了强大的3D推理、编程与视觉能力，可以将概念、图像与视频转化为可直接运行的交互体验。它可以在代码与实时截图之间无缝迭代，实现真正的视觉闭环，即实时查看输出结果并即刻进行优化。我们完成了多个相关案例，包括3D模拟长征十号火箭发射与回收、3D开放世界游戏、3D GBA模拟器，以及黑洞卡冈图雅的复刻过程。

芯片设计

作为早期概念验证，K3独立设计了一款用于运行基于自身架构构建的nano模型的芯片。在连续48小时的自主Agent运行过程中，K3基于开源EDA工具与Nangate 45nm工艺库，独立完成了芯片的构建、优化与验证流程。这款芯片面积为4mm²，集成了146万个标准单元、0.277MB SRAM以及带融合反量化的INT4 MAC阵列，在100MHz频率下完成了时序收敛，仿真解码吞吐持续超过每秒8700个token。这款由模型自主设计、专为模型服务的芯片，正是K3长程Agent能力的绝佳体现。

科研编程

K3可以打通科学文献与可执行代码，自主完成复杂计算研究流程的实现、验证与分析。在一个实际案例中，K3仅用约两小时就完成了通常需要资深研究人员1到两周才能完成的工作：为复现计算天体物理中的I-Love-Q普适关系，它阅读并交叉验证了20多篇相关论文，实现了完整的数值流程，评估了300多种状态方程，发现了已发表公式中的不一致之处，生成了超过3000行Python代码，并产出了用于探索结果的交互式HTML仪表盘。

端到端知识工作能力

K3推动了端到端知识工作流程的升级。除了公开基准测试外，K3在极致思考强度模式下的内部评测中也展现出稳定的性能提升。这些评测基于真实用户与智能体协作流程中反复出现的任务模式与挑战，K3在不同生产场景导向的工作流中都表现出一致的优势，说明其智能体知识工作能力得到了全面提升。

研究与可视化

我们通过多个案例展示了K3在金融咨询与科研场景中的表现：

  • 推理芯片行业研究：该报告覆盖了ASIC行业42年的发展历史，由K3经过120多轮递归自我改进生成。K3将收集到的证据转化为定制图表、动画示意图与交互式视觉叙事，整个过程中，它完成了2800多次网页搜索与抓取、1100多次终端数据拉取，处理了87份季报与99份原始PDF，合计超过11000页的资料。
  • 可控核聚变产业研究：这是一份咨询报告风格的行业研究，包含时间线、树状图、瀑布图、甘特图等多种可视化内容，以及达到发布质量的演示文稿。
  • GWTC-5引力波分析：K3对391个引力波事件进行了分析，使用了20多个并发subagents，产出了7张科学可视化图、2张表格，并综合了10多篇论文的文献内容。

小组件与看板功能

在配套的办公协作平台中，我们推出了两个全新功能：小组件与看板，让用户与K3的交互更加可视化且更具持续性。小组件可以在对话中直接生成交互式组件，并连接本地数据或外部插件，实现持续更新；看板则可以将用户最关心的小组件汇总到一个长期保留的个性化视图中，围绕特定主题、项目或目标进行组织。

视频剪辑

K3原生的多模态架构可以同时理解文字、图像与视频，因此擅长动效设计、动画制作与视频剪辑。在一个案例中，K3制作了一支介绍自身架构的「3Blue1Brown」风格动态图形讲解视频，将复杂的技术概念转化为动画图示与流畅转场，时长4分半。在另一个案例中，K3使用56段原始素材剪辑了品牌宣传视频，完成了选片、动作匹配剪辑、逐帧卡点、音频处理与多轮修改。这类信息密度较高的短视频，通常需要有经验的剪辑师花费1到2个工作日完成，新手则可能需要3到5天。

架构与基础设施细节

K3的核心架构基于KDA与Attention Residuals构建。KDA为注意力扩展提供了高效的基础，而Attention Residuals则并非简单在各层均匀累积表示，而是有选择地跨深度检索表示，二者共同构成了K3的架构骨架，支持模型扩展到万亿参数以上的规模。

K3采用Stable LatentMoE框架，在896个专家中实际激活16个。在这种稀疏度下，路由与优化成为关键挑战，我们针对性地推出了多项优化：Quantile Balancing直接根据路由分数的分位数分配专家，避免了启发式更新与敏感的平衡超参数；Per-Head Muon将Muon优化方法扩展到按注意力头独立优化，让大规模训练中的学习过程更加自适应；Sigmoid Tanh Unit与Gated MLA分别增强了激活控制与注意力的选择性。这些改进共同支持了2.8万亿参数规模下稳定、高效的训练。

此外，K3从SFT阶段开始就采用了量化感知训练，使用MXFP4权重与MXFP8激活，以适配更广泛的硬件环境。为避免大规模专家并行训练中因专家负载不均影响吞吐，我们引入了完全均衡的专家并行训练方法，使用静态形状且关键路径上无需主机同步。由于推理效率同样受益于更大的高带宽通信域，我们建议在由64个或更多加速器组成的supernode配置上部署K3。最后，由于KDA给传统prefix caching带来了新的挑战，我们已向vLLM社区贡献了对应实现，并将随模型一同发布。借助带prefill cache的KDA，即使在大模型规模与长上下文条件下，我们也能以极具竞争力的token价格提供K3服务。更多技术细节将在后续发布的技术报告中公布。

使用方式与渠道

当前，用户可以通过多种渠道体验K3模型：

  • 智能体交互：可通过官方网页端、移动端应用（支持iOS、Android与鸿蒙系统）下载或升级到最新版本，直接使用K3智能体。
  • 办公协作：下载最新版的办公桌面客户端（3.1.0及以上版本），支持Windows与搭载Apple芯片的Mac电脑。
  • 编程辅助：通过本地终端工具，使用/model命令选择K3模型即可开始体验。
  • API开发：访问官方API开放平台，选择对应模型即可接入开发。其定价为：每百万Token输入2元（命中缓存）与20元（未命中缓存），输出为100元。借助分离式推理架构，官方API在编程场景下的缓存率超过90%，实际输入价格仅为标准输入价格的1/4。目前平台同步推出最高30%的充赠活动。
  • 企业订阅：企业版支持企业级数据隐私保护、成员管理，个人账号与企业账号数据完全隔离，可通过官方页面在线为员工订阅会员。

此外，我们即将面向企业推出托管Agent平台，提供Agent harness、隔离沙箱与长任务运行环境，欢迎加入等候名单第一时间参与测试。

模型局限性

  • 对历史思考内容敏感：K3在后续训练过程中全程使用思考历史保留模式，如果Agent框架未按要求回传全部历史思考内容，或从其他模型正在进行的会话中切换到K3，可能会引发上下文干扰，导致内容生成质量不稳定。建议使用经过兼容性验证的Agent框架，并避免在会话中途切换到K3。
  • 过于主动：K3的训练重点优化了长程、高难度任务，因此在任务执行过程中遇到小问题或用户意图模糊时，可能会替用户做出非预期的决定。如果希望Agent更有边界感、不过度自由发挥，请在system prompt中对K3施加更明确的行为约束。
  • 与顶级闭源模型的体验差距：尽管K3总体上是一款极具竞争力的模型，但与Claude Fable 5和GPT-5.6 Sol相比，在用户体验上仍存在一定差距。
以上内容不代表本平台立场，仅供读者参考