Kimi K2.6 (1T MoE) 模型架构参数、评测与显存全表
月之暗面 1 万亿参数(单步激活 32B)开源多模态 Agent 主力,SWE-Bench Verified 高达 80.2%,支持 Agent Swarm 深度检索。
🧬 Kimi K2.6 (1T MoE) 底层网络与张量参数总表 (Model Overview & config.json)
全部字段同步自官方 HuggingFace 仓库 (moonshotai/Kimi-K2.6) 的 config.json 与技术报告 · 核验日期 2026-11-20
1. 骨干网络与维度参数
kimi_k25- 总参数量 / 单步激活
- 1T / 32B
- Hidden Size (d_model)
- 7,168
- FFN Intermediate Size
- 18,432
- MoE 专家中间层维度
- 2,048
- MoE 专家配置
- 384 路由 · 激活8 + 1 共享
- 激活函数 / RMSNorm
- SiLU (SwiGLU) · ε=1e-5
- 原生权重精度
- FP8 / INT4 QAT
2. 注意力机制与混合层拓扑
MLA- Transformer 总层数
- 61 层
- 网络层排布 (Hidden Layout)
- 61 层 MLA 多模态 MoE (384 路由专家 + 1 共享专家,激活 8 专家 · 400M 视觉编码器)
- 注意力头 (Q / KV)
- 64 Q / 64 KV
- Head Dimension
- 64
- 线性注意力 / KV 压缩机制
- MLA 低秩 KV 压缩:kv_lora_rank=512 + qk_rope_head_dim=64
3. 上下文、位置编码与词表
Tokenizer- 原生上下文长度
- 262,144 tokens
- 旋转位置编码 (RoPE)
- YaRN MLA RoPE (原生 262,144 Context)
- 词表大小 (vocab_size)
- 163,840 (独立输出头)
- 特殊控制 Token ID
- BOS: 163584 · EOS: 163586 · PAD: 163839
📋 Kimi K2.6 (1T MoE) 官方 API 技术规格与计费参数总表
核验自 Moonshot Kimi 官方开发者文档与公开定价页(核验日期 2026-11-20)
1. 模型标识与能力开关
API Spec- 官方调用 Model ID
- kimi-k2.6
- 版本发布日期
- 2026-04-20
- 权重授权形态
- 开源权重 (云端 API 规格)
- 原生深度推理思考
- ✅ 支持 (可调思考预算)
- Function Calling & JSON Schema
- ✅ 原生支持
- Batch API 异步批处理
- ✅ 支持 (通常享 5 折)
2. 上下文、输出上限与模态
Limits- 最大输入上下文窗口
- 256,000 tokens (256K)
- 单次最大输出上限
- 262,000 tokens
- 支持输入模态
- Text + Image + Video
- 支持输出模态
- Text
- 中国大陆网络直连
- ✅ 国内极速直连 + 人民币结算
- 分发与部署形态
- 开源权重 + 托管云 API
3. 官方 Token 单价与缓存阶梯
CNY / 1M- 标准输入单价 (每百万)
- ¥ 6.5
- Prompt 缓存命中输入
- ¥ 1.1 -83%
- 标准输出单价 (每百万)
- ¥ 27
- 长上下文阶梯与计费备注
- 月之暗面 Kimi:高性价比长文本与多模态推理主力
🏆 Kimi K2.6 (1T MoE) 官方基准评测成绩单
摘录自官方 System Card / Model Card 与权威公开横评表
2026 年美国数学邀请赛(AIME I & II)全部 30 道竞赛真题,要求输出 000–999 精确整数答案,检验奥数级推理能力。
研究生级物理、化学与生物高难防搜索推理选择题
经人类工程师逐题验证可解的 500 道真实 GitHub 开源仓库 Issue 修复基准,衡量模型阅读大型代码库并生成通过单测补丁的实战工程能力。
零数据污染的动态竞赛编程基准(v6),持续采集 LeetCode、AtCoder 与 CodeForces 最新赛题,全面测试算法编写、修复与执行推理。
真实桌面操作系统多模态智能体评测验证集(OSWorld-Verified),在 Ubuntu、Windows 与 macOS 虚拟机中直接操控鼠标键盘完成跨软件任务。
🎛️ 官方调用采样与思考参数指南
API / 推理引擎调用时的最佳超参数与约束说明
📊 Kimi K2.6 (1T MoE) 全量评测成绩与维度排名
共 28 项公开评测 · 排名为在本站 154 款有评测数据模型中的名次 · 数据同步于 2026-11-20
💻 代码工程 7 项
考察智能体使用工具、探索环境并端到端闭环复杂多步现实任务的综合评测(Claw-Eval)。
经人类工程师逐题验证可解的 500 道真实 GitHub 开源仓库 Issue 修复基准,衡量模型阅读大型代码库并生成通过单测补丁的实战工程能力。
覆盖 Java、TypeScript、JavaScript、Go、Rust、C 与 C++ 等主流语言的 1,632 道真实开源仓库 Issue 修复评测。
Terminal-Bench 2.0 真实终端环境智能体评测,衡量命令行工具链操控与长链路工程任务完成率。
SWE-Bench 高阶专业版,聚焦需要跨文件长链推理与复杂架构改动的真实工业级软件工程任务。
由自然科学家编制的科研编程基准,将物理、化学、生物、数学等 16 个学科的 80 个真实科研计算问题拆解为 338 个编程子任务。
面向数小时至数十小时开放式大型工程项目(系统性能优化、大规模代码构建、应用机器学习研发)的前沿软件工程评测。
🤖 Agent 与工具调用 8 项
OpenAI 发布的深度联网搜索基准,含 1,266 道需要智能体在互联网上反复检索、交叉核实才能找到隐蔽线索的高难多跳检索题。
深度多跳搜索问答基准,测试模型跨复杂知识领域执行迭代检索与证据链整合的能力。
广度并行搜索智能体基准,考察模型跨海量信息源执行大规模并行检索、去重汇总与结构化整理的能力。
真实桌面操作系统多模态智能体评测验证集(OSWorld-Verified),在 Ubuntu、Windows 与 macOS 虚拟机中直接操控鼠标键盘完成跨软件任务。
面向真实 MCP Server 生态的工具发现、参数构造、调用执行与返回结果解析评测。
「工具十项全能」基准(Toolathlon),横跨 10 类真实业务场景全面检验智能体的多工具选择、编排顺序与容错执行能力。
Vals AI 发布的金融分析师智能体基准(v2),考察检索真实上市公司财报、执行多步财务建模计算与投资分析的能力。
面向长周期专业岗位复杂多步规划、推理与工具执行的智能体基准(APEX-Agents)。
📐 数学 6 项
2026 年美国数学邀请赛(AIME I & II)全部 30 道竞赛真题,要求输出 000–999 精确整数答案,检验奥数级推理能力。
多模态竞赛数学推理基准(MATH-Vision),精选必须看懂几何图形、函数图像或组合示意图才能求解的真实数学竞赛题。
2026 年 2 月哈佛-麻省理工数学锦标赛(HMMT)高难度竞赛真题评测。
国际数学奥林匹克(IMO)级别高难数学答案生成与验证基准,测试顶级数学竞赛求解实力。
每月基于最新 arXiv 论文、新闻与新数据集动态更新题目的抗污染综合评测基准(客观规则自动判分,不依赖裁判模型)。
「人类最后的考试」(HLE),由全球学者联合出题的 2,500 道数学、人文与自然科学前沿难题(图文多模态),专门测试大模型在人类知识边界上的推理极限。
👁️ 多模态与视觉 4 项
来源:ZeroEval / llm-stats.com 公开评测聚合(✓ 为第三方验证,其余为厂商官方自报)。点击任一评测可查看全库排名。
⚡ Kimi K2.6 (1T MoE) 本地显存占用 & 实时吐字速度计算器
物理总容量 96 GB · 占用率 659.9%
超出安全可用上限 526.75 GB
MLA 潜在注意力显著压缩高并发 KV 占用
OLLAMA_CONTEXT_LENGTH=16384 ollama run kimi-k2.6:latest本地显存不足?运行 Kimi K2.6 (1T MoE) 的替代方案
可按小时租用预装好 vLLM / LLaMA-Factory 的大显存云显卡,或算一下直接调 API 对比买卡的 12 个月回本线。
📊 Kimi K2.6 (1T MoE) 各量化精度显存占用对照表 (16K 上下文)
| 量化格式 | 等效位数 | 纯权重体积 | KV Cache (16K) | 总显存需求 | 精度评价 |
|---|---|---|---|---|---|
| FP16 / BF16 | 16 bpw | 2000 GB | 1.15 GB | 2042.45 GB | 无损原精度 |
| FP8 / Q8_0 | 8.5 bpw | 1062.5 GB | 1.15 GB | 1086.2 GB | 99.9% 接近无损 |
| GGUF Q6_K | 6.56 bpw | 820 GB | 1.15 GB | 838.85 GB | 极高画质 · 严肃编码 |
| GGUF Q5_K_M | 5.69 bpw | 711.25 GB | 1.15 GB | 727.93 GB | 高均衡度 |
| Q4_K_M / AWQ | 4.85 bpw | 606.25 GB | 1.15 GB | 620.83 GB | 黄金甜点(推荐) |
| GGUF IQ4_XS | 4.25 bpw | 531.25 GB | 1.15 GB | 544.33 GB | 省显存优选 |
| GGUF Q3_K_M | 3.91 bpw | 488.75 GB | 1.15 GB | 500.98 GB | 轻度智商折损 |
| GGUF Q2_K | 3.15 bpw | 393.75 GB | 1.15 GB | 404.08 GB | 极限压缩尝鲜 |
🖥️ 主流显卡、Mac 与国产卡运行 Kimi K2.6 (1T MoE) (Q4_K_M) 兼容性列表
常见问题解答 (FAQ)
Kimi K2.6 (1T MoE) 的核心网络架构参数(层数、隐藏维度、注意力头、词表)是多少?
Kimi K2.6 (1T MoE) 底层架构为 KimiK25ForConditionalGeneration,共 61 层(61 层 MLA 多模态 MoE (384 路由专家 + 1 共享专家,激活 8 专家 · 400M 视觉编码器)),隐藏层维度 hidden_size=7168,注意力头配置为 64 个 Query 头 / 64 个 KV 头(head_dim=64),词表大小 vocab_size=163,840,原生上下文窗口 262,144 tokens。
Kimi K2.6 (1T MoE) 本地部署至少需要多少 GB 显存?
在主流 4-bit 量化(GGUF Q4_K_M / AWQ,16K 上下文)下,Kimi K2.6 (1T MoE) 共需约 620.83 GB 显存(含权重 606.25 GB + KV 缓存 1.15 GB + 系统开销 13.43 GB)。无损 FP16/BF16 则需约 2042.45 GB。
Kimi K2.6 (1T MoE) 官方推荐的采样参数(Temperature / Top-P)是多少?
依据官方 generation_config.json 与最佳实践,在「思考与代码 Agent 模式」下建议设置 temperature=1、top_p=0.95。