ai.canshu.com
EN
显存计算器 配机与回本向导 API 价格 同屏 PK 对比 模型库 排行榜 显卡库

全局搜索模型、显卡与工具

↑↓ 移动 · Enter 直达 · ★ 优先展示我的关注 ai.canshu.com
Moonshot Kimi
开源权重 Moonshot Kimi · MoE 2.8T / A104B · Text+Image+Video · MXFP4 / MXFP8 QAT

Kimi K3 (2.8T MoE) 模型架构参数、评测与显存全表

月之暗面开源的全球首个 3 万亿级(2.8T 总参 / 104B 激活)原生多模态 Agent 巨无霸,采用 KDA 线性增量注意力 + Gated MLA 架构。

🧬 Kimi K3 (2.8T MoE) 底层网络与张量参数总表 (Model Overview & config.json)

全部字段同步自官方 HuggingFace 仓库 (moonshotai/Kimi-K3) 的 config.json 与技术报告 · 核验日期 2026-11-20

HF Class: KimiK3ForConditionalGeneration

1. 骨干网络与维度参数

kimi_k3
总参数量 / 单步激活
2.8T / 104B
Hidden Size (d_model)
7,168
FFN Intermediate Size
33,792
MoE 专家中间层维度
3,072
MoE 专家配置
896 路由 · 激活16 + 2 共享
激活函数 / RMSNorm
SiTU-GLU · ε=1e-5
原生权重精度
MXFP4 / MXFP8 QAT

2. 注意力机制与混合层拓扑

MLA
Transformer 总层数
93 层 (24 层全局 KV)
网络层排布 (Hidden Layout)
93 层超大规模架构:69 层 Kimi Delta Attention (KDA) + 24 层 Gated MLA + Attention Residuals
注意力头 (Q / KV)
96 Q / 96 KV
Head Dimension
64
线性注意力 / KV 压缩机制
896 路由专家 + 2 共享专家(单步激活 16 专家)· MoonViT-V2 (401M) 视觉编码器

3. 上下文、位置编码与词表

Tokenizer
原生上下文长度
1,048,576 tokens
旋转位置编码 (RoPE)
KDA + Gated MLA RoPE (原生 1,048,576 / 1M Context)
词表大小 (vocab_size)
163,840 (独立输出头)
特殊控制 Token ID
BOS: 163584 · EOS: 163586 · PAD: 163839

📋 Kimi K3 (2.8T MoE) 官方 API 技术规格与计费参数总表

核验自 Moonshot Kimi 官方开发者文档与公开定价页(核验日期 2026-11-20)

API Model ID: kimi-k3

1. 模型标识与能力开关

API Spec
官方调用 Model ID
kimi-k3
版本发布日期
2026-07-16
权重授权形态
开源权重 (云端 API 规格)
原生深度推理思考
✅ 支持 (可调思考预算)
Function Calling & JSON Schema
✅ 原生支持
Batch API 异步批处理
✅ 支持 (通常享 5 折)

2. 上下文、输出上限与模态

Limits
最大输入上下文窗口
1,024,000 tokens (1024K)
单次最大输出上限
1,049,000 tokens
支持输入模态
Text + Image + Video
支持输出模态
Text
中国大陆网络直连
✅ 国内极速直连 + 人民币结算
分发与部署形态
开源权重 + 托管云 API

3. 官方 Token 单价与缓存阶梯

CNY / 1M
标准输入单价 (每百万)
¥ 20
Prompt 缓存命中输入
¥ 2 -90%
标准输出单价 (每百万)
¥ 100
长上下文阶梯与计费备注
月之暗面 Kimi:月之暗面 2.8T 万亿参数旗舰

🏆 Kimi K3 (2.8T MoE) 官方基准评测成绩单

摘录自官方 System Card / Model Card 与权威公开横评表

Arena Elo ~1515 AA Index 54
🧠 数学与深度推理
GPQA Diamond 93.5 %

研究生级物理、化学与生物高难防搜索推理选择题

🧠 数学与深度推理
HLE-Full (w/ Tools) 56 %

「人类最后的考试」全量图文题开启工具辅助得分

📚 知识与指令
AA-LCR 74.7 %

Artificial Analysis 长上下文深度推理基准(Long Context Reasoning),测试真实长文档理解而非简单大海捞针。

💻 代码工程
DeepSWE v1.1 67.5 %
🤖 Agent 工具调用
CyberGym 80 %

受控靶场环境下的网络安全智能体评测,考察代码安全审计、漏洞定位与攻防分析能力。

👁️ 视觉与多模态
BabyVision (w/ Tools) 85.7 %
👁️ 视觉与多模态
CharXiv RQ 84.8 %

科学论文复杂统计图表跨元素定量与逻辑推理

🎛️ 官方调用采样与思考参数指南

API / 推理引擎调用时的最佳超参数与约束说明

Max 深度推理与长程 Agent 模式
temperature=1 top_p=0.95 max_tokens=65,536

💡 单轮推理建议 top_p=0.95;多步长程 Agent 终端编程建议设 top_p=1.0

📊 Kimi K3 (2.8T MoE) 全量评测成绩与维度排名

共 29 项公开评测 · 排名为在本站 154 款有评测数据模型中的名次 · 数据同步于 2026-11-20

⚔️ 和其他模型逐项比分

💻 代码工程 10 项

Terminal-Bench 2.1 #6/37 88.3%

Terminal-Bench 2.1 终端操作评测,测试 AI 智能体通过命令行独立完成代码编译、服务搭建与排错的端到端表现。

MCP Atlas #5/39 84.2%

大规模模型上下文协议(MCP)工具协同基准,评估智能体在复杂多步任务中协调、组合调用数十种外部 MCP 工具的真实成功率。

FrontierSWE #2/16 81.2%

面向数小时至数十小时开放式大型工程项目(系统性能优化、大规模代码构建、应用机器学习研发)的前沿软件工程评测。

Program Bench #5/18 77.8%

要求智能体仅凭编译后的二进制可执行文件与文档说明,逆向复现出等价功能源码(涵盖 CLI 工具至 FFmpeg/SQLite 级系统)的 200 项硬核工程评测。

Kimi Code Bench v2 #2/3 72.9%

月之暗面构建的覆盖 10+ 主流编程语言与真实后端/全栈生产技术栈的编码智能体综合评测(v2)。

DeepSWE 1.1 #19/49 69%

基于隔离容器环境与 mini-swe-agent 框架评测的软件工程智能体实战基准(v1.1)。

DeepSWE #4/12 67.5%

在无外网隔离容器中独立修复真实软件工程缺陷的智能体评测基准(DeepSWE)。

MLS-Bench Lite #1/2 48.3%

包含 30 项前沿机器学习系统研发任务的基准,检验 AI 能否在大模型预训练/后训练、机器人与世界模型中设计可扩展新方法。

SWE-Marathon #5/9 42%

超长周期软件工程马拉松基准,涵盖编写编译器、优化算子内核与构建生产级服务等持续数小时的系统级开发任务。

PostTrainBench #5/10 36.6%

评估智能体在算力受限下拿到纯预训练基座模型后,能否自主完成数据合成、SFT/RL 后训练、评测与迭代提分的端到端能力。

来源:ZeroEval / llm-stats.com 公开评测聚合(✓ 为第三方验证,其余为厂商官方自报)。点击任一评测可查看全库排名。

⚡ Kimi K3 (2.8T MoE) 本地显存占用 & 实时吐字速度计算器

并发请求数 (Batch):
MoE 2800B / A104B·93L (d=7168)·96Q/96KV·Ctx 1M·Text+Image+Video
该设备兼容榜 →
并联卡数
96 GB VRAM·4000 GB/s·安全可用上限 94.1 GB
显存不足 (OOM)1733.2 / 94.1 GBOOM
3. 权重量化精度
4. 单并发上下文窗口16K (16,384 tok)
参数核验:2026-11-20·带宽与算力屋顶模型估算(当前并发=1)
显存不足 (OOM)
1733.2/ 94.1 GB 可用显存

物理总容量 96 GB · 占用率 1842.3%

理论带宽解码速度 (Decode)
—tokens/s

超出安全可用上限 1639.12 GB

当前并发 (1x) 最大可开窗口
0K/ 1M

MLA 潜在注意力显著压缩高并发 KV 占用

模型权重: 1697.5 GBKV Cache (1×16K): 0.45 GB框架开销: 35.25 GB
⛔ 无法加载
参考启动命令:
OLLAMA_CONTEXT_LENGTH=16384 ollama run kimi-k3:latest

本地显存不足?运行 Kimi K3 (2.8T MoE) 的替代方案

可按小时租用预装好 vLLM / LLaMA-Factory 的大显存云显卡,或算一下直接调 API 对比买卡的 12 个月回本线。

📊 Kimi K3 (2.8T MoE) 各量化精度显存占用对照表 (16K 上下文)

量化格式 等效位数 纯权重体积 KV Cache (16K) 总显存需求 精度评价
FP16 / BF16 16 bpw 5600 GB 0.45 GB 5713.75 GB 无损原精度
FP8 / Q8_0 8.5 bpw 2975 GB 0.45 GB 3036.25 GB 99.9% 接近无损
GGUF Q6_K 6.56 bpw 2296 GB 0.45 GB 2343.67 GB 极高画质 · 严肃编码
GGUF Q5_K_M 5.69 bpw 1991.5 GB 0.45 GB 2033.08 GB 高均衡度
Q4_K_M / AWQ 4.85 bpw 1697.5 GB 0.45 GB 1733.2 GB 黄金甜点(推荐)
GGUF IQ4_XS 4.25 bpw 1487.5 GB 0.45 GB 1519 GB 省显存优选
GGUF Q3_K_M 3.91 bpw 1368.5 GB 0.45 GB 1397.62 GB 轻度智商折损
GGUF Q2_K 3.15 bpw 1102.5 GB 0.45 GB 1126.3 GB 极限压缩尝鲜

🖥️ 主流显卡、Mac 与国产卡运行 Kimi K3 (2.8T MoE) (Q4_K_M) 兼容性列表

常见问题解答 (FAQ)

Kimi K3 (2.8T MoE) 的核心网络架构参数(层数、隐藏维度、注意力头、词表)是多少?

Kimi K3 (2.8T MoE) 底层架构为 KimiK3ForConditionalGeneration,共 93 层(93 层超大规模架构:69 层 Kimi Delta Attention (KDA) + 24 层 Gated MLA + Attention Residuals),隐藏层维度 hidden_size=7168,注意力头配置为 96 个 Query 头 / 96 个 KV 头(head_dim=64),词表大小 vocab_size=163,840,原生上下文窗口 1,048,576 tokens。

Kimi K3 (2.8T MoE) 本地部署至少需要多少 GB 显存?

在主流 4-bit 量化(GGUF Q4_K_M / AWQ,16K 上下文)下,Kimi K3 (2.8T MoE) 共需约 1733.2 GB 显存(含权重 1697.5 GB + KV 缓存 0.45 GB + 系统开销 35.25 GB)。无损 FP16/BF16 则需约 5713.75 GB。

Kimi K3 (2.8T MoE) 官方推荐的采样参数(Temperature / Top-P)是多少?

依据官方 generation_config.json 与最佳实践,在「Max 深度推理与长程 Agent 模式」下建议设置 temperature=1、top_p=0.95。注意:单轮推理建议 top_p=0.95;多步长程 Agent 终端编程建议设 top_p=1.0