Kimi K3.1 Pro (2.8T MoE) 模型架构参数、评测与显存全表
月之暗面 2026 年 10 月发布的 K3.1 Pro 旗舰(2.78T 总参 / 104B 激活),93 层 896 专家,输入输出均支持 104.8 万 tokens。
🧬 Kimi K3.1 Pro (2.8T MoE) 底层网络与张量参数总表 (Model Overview & config.json)
全部字段同步自官方 HuggingFace 仓库 (moonshotai/Kimi-K3.1-Pro) 的 config.json 与技术报告 · 核验日期 2026-11-20
1. 骨干网络与维度参数
kimi_k31- 总参数量 / 单步激活
- 2.78T / 104B
- Hidden Size (d_model)
- 7,168
- FFN Intermediate Size
- 33,792
- MoE 专家中间层维度
- 3,072
- MoE 专家配置
- 896 路由 · 激活50 + 2 共享
- 激活函数 / RMSNorm
- SiLU (SwiGLU) · ε=0.00001
- 原生权重精度
- BF16 / FP8
2. 注意力机制与混合层拓扑
MLA- Transformer 总层数
- 93 层
- 网络层排布 (Hidden Layout)
- 93 层稀疏 MoE 架构(896 路由专家,单步激活 50 个)
- 注意力头 (Q / KV)
- 96 Q / 96 KV
- Head Dimension
- 75
3. 上下文、位置编码与词表
Tokenizer- 原生上下文长度
- 1,048,576 tokens
- 旋转位置编码 (RoPE)
- RoPE (原生 1,048,576 Context)
- 词表大小 (vocab_size)
- 163,840 (独立输出头)
📋 Kimi K3.1 Pro (2.8T MoE) 官方 API 技术规格与计费参数总表
核验自 Moonshot Kimi 官方开发者文档与公开定价页(核验日期 2026-11-20)
1. 模型标识与能力开关
API Spec- 官方调用 Model ID
- kimi-k3.1-pro
- 版本发布日期
- 2026-10-23
- 权重授权形态
- 开源权重 (云端 API 规格)
- 原生深度推理思考
- ✅ 支持 (可调思考预算)
- Function Calling & JSON Schema
- ✅ 原生支持
- Batch API 异步批处理
- ✅ 支持 (通常享 5 折)
2. 上下文、输出上限与模态
Limits- 最大输入上下文窗口
- 1,024,000 tokens (1024K)
- 单次最大输出上限
- 1,049,000 tokens
- 支持输入模态
- Text + Image + Video
- 支持输出模态
- Text
- 中国大陆网络直连
- ✅ 国内极速直连 + 人民币结算
- 分发与部署形态
- 开源权重 + 托管云 API
3. 官方 Token 单价与缓存阶梯
CNY / 1M- 标准输入单价 (每百万)
- ¥ 13
- Prompt 缓存命中输入
- ¥ 1.3 -90%
- 标准输出单价 (每百万)
- ¥ 68
- 长上下文阶梯与计费备注
- 月之暗面 Kimi:缓存命中输入享 1 折(¥1.3/百万)
🎛️ 官方调用采样与思考参数指南
API / 推理引擎调用时的最佳超参数与约束说明
📊 Kimi K3.1 Pro (2.8T MoE) 全量评测成绩与维度排名
共 30 项公开评测 · 排名为在本站 154 款有评测数据模型中的名次 · 数据同步于 2026-11-20
💻 代码工程 10 项
允许调用 Python 辅助计算与几何验证的程序化三维 CAD 建模推理评测。
月之暗面构建的覆盖 10+ 主流编程语言与真实后端/全栈生产技术栈的编码智能体综合评测(v2)。
在无外网隔离容器中独立修复真实软件工程缺陷的智能体评测基准(DeepSWE)。
网络安全漏洞发现与利用(Exploit)实战基准,以智能体成功夺取目标权限的比例(Cap%)计分。
基于 1.79 万个经执行验证的工业零件参数化三维建模程序(对齐 ISO/DIN/ASME 标准)的程序化 CAD 视觉与代码推理基准。
第 4 代真实容器终端智能体评测,涵盖 66 项命令行工程与科学计算实战任务,考察编译、排障、环境配置与端到端交付能力。
超长周期软件工程马拉松基准,涵盖编写编译器、优化算子内核与构建生产级服务等持续数小时的系统级开发任务。
由斯坦福大学牵头构建的科研终端智能体基准,包含生命科学、物理、地球科学、数学与工程领域的 70 项真实科研命令行工作流任务。
评估智能体在算力受限下拿到纯预训练基座模型后,能否自主完成数据合成、SFT/RL 后训练、评测与迭代提分的端到端能力。
基于 Linux 内核、Google V8 引擎与用户态真实历史高危漏洞构建的大规模漏洞复现与利用智能体基准。
🤖 Agent 与工具调用 8 项
OpenAI 发布的深度联网搜索基准,含 1,266 道需要智能体在互联网上反复检索、交叉核实才能找到隐蔽线索的高难多跳检索题。
由 Artificial Analysis 独立运行的 SaaS 自动化评测,覆盖 Gmail、Slack、Salesforce 等 40 款模拟企业应用共 657 项真实办公任务。
源自真实企业办公流的专业文档分析、电子表格计算与跨源商业信息综合问答基准。
面向长周期专业岗位复杂多步规划、推理与工具执行的智能体基准(APEX-Agents)。
Artificial Analysis 运行的专业知识工作经济价值评测(v2.1,以 Elo 分衡量模型在真实高价值白领任务中的交付水平)。
评估持续数小时的复杂专业办公交付能力的职场综合评测(AA-Briefcase v1.1,采用 Elo 计分)。
「智能体最后的考试」,聚焦超长周期复杂规划、持续推演与多工具协同的高难智能体终极评测。
Harvey 专业复杂法律实务工作流智能体全通过率评测。
📐 数学 2 项
👁️ 多模态与视觉 8 项
面向基础早期视觉直觉感知与趣味图形推理的视觉基准。
由专家基于科研、工程、金融、供应链与医疗真实复杂图表编写的 100 项专业图表深度解读评测。
允许调用图像裁剪、代码计算等工具辅助的 MMMU-Pro 多学科视觉推理评测。
科学论文真实复杂图表深度推理基准(CharXiv-R),要求跨多子图、图例与数据趋势进行定量比较与综合推演。
MMMU 抗猜题增强版大学多学科多模态基准,剔除了仅靠纯文本就能猜对的题目并引入纯视觉输入截图模式,严格考察图文深度融合推理。
评估原子级基础视觉感知准确性的多模态基准。
基于真实复杂 PDF 视觉文档(财务报表、合同、工程图表)的高价值专业知识工作视觉推理评测。
针对前沿视觉大模型设计的高难度零样本复杂视觉推理基准(主集人类精心构造极难视觉题)。
来源:ZeroEval / llm-stats.com 公开评测聚合(✓ 为第三方验证,其余为厂商官方自报)。点击任一评测可查看全库排名。
⚡ Kimi K3.1 Pro (2.8T MoE) 本地显存占用 & 实时吐字速度计算器
物理总容量 96 GB · 占用率 1830.5%
超出安全可用上限 1628.06 GB
MLA 潜在注意力显著压缩高并发 KV 占用
OLLAMA_CONTEXT_LENGTH=16384 ollama run kimi-k3-1-pro-2800b本地显存不足?运行 Kimi K3.1 Pro (2.8T MoE) 的替代方案
可按小时租用预装好 vLLM / LLaMA-Factory 的大显存云显卡,或算一下直接调 API 对比买卡的 12 个月回本线。
📊 Kimi K3.1 Pro (2.8T MoE) 各量化精度显存占用对照表 (16K 上下文)
| 量化格式 | 等效位数 | 纯权重体积 | KV Cache (16K) | 总显存需求 | 精度评价 |
|---|---|---|---|---|---|
| FP16 / BF16 | 16 bpw | 5560 GB | 1.76 GB | 5674.26 GB | 无损原精度 |
| FP8 / Q8_0 | 8.5 bpw | 2953.75 GB | 1.76 GB | 3015.88 GB | 99.9% 接近无损 |
| GGUF Q6_K | 6.56 bpw | 2279.6 GB | 1.76 GB | 2328.25 GB | 极高画质 · 严肃编码 |
| GGUF Q5_K_M | 5.69 bpw | 1977.28 GB | 1.76 GB | 2019.88 GB | 高均衡度 |
| Q4_K_M / AWQ | 4.85 bpw | 1685.37 GB | 1.76 GB | 1722.14 GB | 黄金甜点(推荐) |
| GGUF IQ4_XS | 4.25 bpw | 1476.88 GB | 1.76 GB | 1509.47 GB | 省显存优选 |
| GGUF Q3_K_M | 3.91 bpw | 1358.73 GB | 1.76 GB | 1388.95 GB | 轻度智商折损 |
| GGUF Q2_K | 3.15 bpw | 1094.63 GB | 1.76 GB | 1119.57 GB | 极限压缩尝鲜 |
🖥️ 主流显卡、Mac 与国产卡运行 Kimi K3.1 Pro (2.8T MoE) (Q4_K_M) 兼容性列表
常见问题解答 (FAQ)
Kimi K3.1 Pro (2.8T MoE) 的核心网络架构参数(层数、隐藏维度、注意力头、词表)是多少?
Kimi K3.1 Pro (2.8T MoE) 底层架构为 KimiK31ForConditionalGeneration,共 93 层(93 层稀疏 MoE 架构(896 路由专家,单步激活 50 个)),隐藏层维度 hidden_size=7168,注意力头配置为 96 个 Query 头 / 96 个 KV 头(head_dim=75),词表大小 vocab_size=163,840,原生上下文窗口 1,048,576 tokens。
Kimi K3.1 Pro (2.8T MoE) 本地部署至少需要多少 GB 显存?
在主流 4-bit 量化(GGUF Q4_K_M / AWQ,16K 上下文)下,Kimi K3.1 Pro (2.8T MoE) 共需约 1722.14 GB 显存(含权重 1685.37 GB + KV 缓存 1.76 GB + 系统开销 35.01 GB)。无损 FP16/BF16 则需约 5674.26 GB。
Kimi K3.1 Pro (2.8T MoE) 官方推荐的采样参数(Temperature / Top-P)是多少?
依据官方 generation_config.json 与最佳实践,在「官方默认推理采样配置」下建议设置 temperature=0.7、top_p=0.95。