ai.canshu.com
EN
显存计算器 配机与回本向导 API 价格 同屏 PK 对比 模型库 排行榜 显卡库

全局搜索模型、显卡与工具

↑↓ 移动 · Enter 直达 · ★ 优先展示我的关注 ai.canshu.com
DeepSeek
开源权重 DeepSeek · MoE 1.6T / A49B · Text · FP8 Mixed

DeepSeek-V4-Pro (1.6T MoE) 模型架构参数、评测与显存全表

DeepSeek 1.6 万亿参数开源巅峰旗舰(单步激活 49B),采用 CSA+HCA 混合稀疏注意力,原生 1M 上下文,代码与推理追平顶级闭源模型。

🧬 DeepSeek-V4-Pro (1.6T MoE) 底层网络与张量参数总表 (Model Overview & config.json)

全部字段同步自官方 HuggingFace 仓库 (deepseek-ai/DeepSeek-V4-Pro) 的 config.json 与技术报告 · 核验日期 2026-11-20

HF Class: DeepseekV4ForCausalLM

1. 骨干网络与维度参数

deepseek_v4
总参数量 / 单步激活
1.6T / 49B
Hidden Size (d_model)
7,168
MoE 专家中间层维度
3,072
MoE 专家配置
384 路由 · 激活6 + 1 共享
激活函数 / RMSNorm
SiLU (SwiGLU) · ε=1e-6
原生权重精度
FP8 Mixed

2. 注意力机制与混合层拓扑

MLA
Transformer 总层数
61 层
网络层排布 (Hidden Layout)
61 层 CSA + HCA 混合压缩稀疏注意力 MoE + mHC 超连接 (384 路由专家 + 1 共享)
注意力头 (Q / KV)
128 Q / 1 KV (128:1 GQA)
Head Dimension
512
线性注意力 / KV 压缩机制
1M 上下文下推理 FLOPs 仅为 V3.2 的 27%,KV Cache 仅为 10%
视觉编码器 / MTP 头
MTP 1L

3. 上下文、位置编码与词表

Tokenizer
原生上下文长度
1,048,576 tokens
旋转位置编码 (RoPE)
Decoupled RoPE (θ=10,000 · qk_rope_dim=64 · 原生 1,048,576 Context)
词表大小 (vocab_size)
129,280 (独立输出头)
特殊控制 Token ID
BOS: 0 · EOS: 1

📋 DeepSeek-V4-Pro (1.6T MoE) 官方 API 技术规格与计费参数总表

核验自 DeepSeek 官方开发者文档与公开定价页(核验日期 2026-11-20)

API Model ID: deepseek-v4-pro

1. 模型标识与能力开关

API Spec
官方调用 Model ID
deepseek-v4-pro
版本发布日期
2026-08-13
权重授权形态
开源权重 (云端 API 规格)
原生深度推理思考
✅ 支持 (可调思考预算)
Function Calling & JSON Schema
✅ 原生支持
Batch API 异步批处理
✅ 支持 (通常享 5 折)

2. 上下文、输出上限与模态

Limits
最大输入上下文窗口
1,024,000 tokens (1024K)
单次最大输出上限
384,000 tokens
支持输入模态
Text
支持输出模态
Text
中国大陆网络直连
✅ 国内极速直连 + 人民币结算
分发与部署形态
开源权重 + 托管云 API

3. 官方 Token 单价与缓存阶梯

USD / 1M
标准输入单价 (每百万)
$ 1.32
Prompt 缓存命中输入
$ 0.044 -97%
标准输出单价 (每百万)
$ 3.96
长上下文阶梯与计费备注
DeepSeek 官方:标准时段费率;闲时半价仅 $0.66 输入 / $1.98 输出

🏆 DeepSeek-V4-Pro (1.6T MoE) 官方基准评测成绩单

摘录自官方 System Card / Model Card 与权威公开横评表

Arena Elo ~1504 AA Index 52
📚 知识与指令 Max
MMLU-Pro 87.5 %

MMLU 进阶推理增强版,将选项从 4 个扩充至 10 个并剔除简单记忆题,重点考察跨学科复杂计算与多步逻辑推理。

📚 知识与指令 Max
Chinese-SimpleQA 84.4 %

中文简短客观事实准确性与抗幻觉核查基准

🧠 数学与深度推理 Max
GPQA Diamond 90.1 %

研究生级物理、化学与生物高难防搜索推理选择题

🧠 数学与深度推理 Max
HMMT 2026 Feb 95.2 %
💻 代码工程 Max
LiveCodeBench 93.5 %

持续从 LeetCode、AtCoder 与 CodeForces 采集最新赛题的无污染代码生成与算法推理基准。

💻 代码工程 Max
SWE-bench Verified 80.6 %

经人类工程师逐题验证可解的 500 道真实 GitHub 开源仓库 Issue 修复基准,衡量模型阅读大型代码库并生成通过单测补丁的实战工程能力。

🤖 Agent 工具调用 Max
Terminal Bench 2.0 67.9 %
🤖 Agent 工具调用 Max
BrowseComp 83.4 %

OpenAI 发布的深度联网搜索基准,含 1,266 道需要智能体在互联网上反复检索、交叉核实才能找到隐蔽线索的高难多跳检索题。

🎛️ 官方调用采样与思考参数指南

API / 推理引擎调用时的最佳超参数与约束说明

Think Max 极限推理模式 (Official Recommended)
temperature=1 top_p=1 max_tokens=65,536

💡 官方推荐 temperature=1.0, top_p=1.0;开启 Think Max 建议上下文至少预留 384K

📊 DeepSeek-V4-Pro (1.6T MoE) 全量评测成绩与维度排名

共 22 项公开评测 · 排名为在本站 154 款有评测数据模型中的名次 · 数据同步于 2026-11-20

⚔️ 和其他模型逐项比分

来源:ZeroEval / llm-stats.com 公开评测聚合(✓ 为第三方验证,其余为厂商官方自报)。点击任一评测可查看全库排名。

⚡ DeepSeek-V4-Pro (1.6T MoE) 本地显存占用 & 实时吐字速度计算器

并发请求数 (Batch):
MoE 1600B / A49B·61L (d=7168)·128Q/1KV·Ctx 1M
该设备兼容榜 →
并联卡数
96 GB VRAM·4000 GB/s·安全可用上限 94.1 GB
显存不足 (OOM)990.02 / 94.1 GBOOM
3. 权重量化精度
4. 单并发上下文窗口16K (16,384 tok)
参数核验:2026-11-20·带宽与算力屋顶模型估算(当前并发=1)
显存不足 (OOM)
990.02/ 94.1 GB 可用显存

物理总容量 96 GB · 占用率 1052.3%

理论带宽解码速度 (Decode)
—tokens/s

超出安全可用上限 895.94 GB

当前并发 (1x) 最大可开窗口
0K/ 1M

MLA 潜在注意力显著压缩高并发 KV 占用

模型权重: 970 GBKV Cache (1×16K): 0.17 GB框架开销: 19.85 GB
⛔ 无法加载
参考启动命令:
OLLAMA_CONTEXT_LENGTH=16384 ollama run deepseek-v4:pro

本地显存不足?运行 DeepSeek-V4-Pro (1.6T MoE) 的替代方案

可按小时租用预装好 vLLM / LLaMA-Factory 的大显存云显卡,或算一下直接调 API 对比买卡的 12 个月回本线。

📊 DeepSeek-V4-Pro (1.6T MoE) 各量化精度显存占用对照表 (16K 上下文)

量化格式 等效位数 纯权重体积 KV Cache (16K) 总显存需求 精度评价
FP16 / BF16 16 bpw 3200 GB 0.17 GB 3264.62 GB 无损原精度
FP8 / Q8_0 8.5 bpw 1700 GB 0.17 GB 1734.62 GB 99.9% 接近无损
GGUF Q6_K 6.56 bpw 1312 GB 0.17 GB 1338.86 GB 极高画质 · 严肃编码
GGUF Q5_K_M 5.69 bpw 1138 GB 0.17 GB 1161.38 GB 高均衡度
Q4_K_M / AWQ 4.85 bpw 970 GB 0.17 GB 990.02 GB 黄金甜点(推荐)
GGUF IQ4_XS 4.25 bpw 850 GB 0.17 GB 867.62 GB 省显存优选
GGUF Q3_K_M 3.91 bpw 782 GB 0.17 GB 798.26 GB 轻度智商折损
GGUF Q2_K 3.15 bpw 630 GB 0.17 GB 643.22 GB 极限压缩尝鲜

🖥️ 主流显卡、Mac 与国产卡运行 DeepSeek-V4-Pro (1.6T MoE) (Q4_K_M) 兼容性列表

常见问题解答 (FAQ)

DeepSeek-V4-Pro (1.6T MoE) 的核心网络架构参数(层数、隐藏维度、注意力头、词表)是多少?

DeepSeek-V4-Pro (1.6T MoE) 底层架构为 DeepseekV4ForCausalLM,共 61 层(61 层 CSA + HCA 混合压缩稀疏注意力 MoE + mHC 超连接 (384 路由专家 + 1 共享)),隐藏层维度 hidden_size=7168,注意力头配置为 128 个 Query 头 / 1 个 KV 头(head_dim=512),词表大小 vocab_size=129,280,原生上下文窗口 1,048,576 tokens。

DeepSeek-V4-Pro (1.6T MoE) 本地部署至少需要多少 GB 显存?

在主流 4-bit 量化(GGUF Q4_K_M / AWQ,16K 上下文)下,DeepSeek-V4-Pro (1.6T MoE) 共需约 990.02 GB 显存(含权重 970 GB + KV 缓存 0.17 GB + 系统开销 19.85 GB)。无损 FP16/BF16 则需约 3264.62 GB。

DeepSeek-V4-Pro (1.6T MoE) 官方推荐的采样参数(Temperature / Top-P)是多少?

依据官方 generation_config.json 与最佳实践,在「Think Max 极限推理模式 (Official Recommended)」下建议设置 temperature=1、top_p=1。注意:官方推荐 temperature=1.0, top_p=1.0;开启 Think Max 建议上下文至少预留 384K