ai.canshu.com
EN
显存计算器 配机与回本向导 API 价格 同屏 PK 对比 模型库 排行榜 显卡库

全局搜索模型、显卡与工具

↑↓ 移动 · Enter 直达 · ★ 优先展示我的关注 ai.canshu.com
Alibaba Qwen
开源权重 Alibaba Qwen · Dense 32.8B · Text · BF16

Qwen3-32B 模型架构参数、评测与显存全表

经典千问3 32B 稠密模型,支持思考/非思考双模式,24GB 显卡 Q4_K_M 在 8K 上下文下刚好装入。

🧬 Qwen3-32B 底层网络与张量参数总表 (Model Overview & config.json)

全部字段同步自官方 HuggingFace 仓库 (Qwen/Qwen3-32B) 的 config.json 与技术报告 · 核验日期 2026-11-20

HF Class: Qwen3ForCausalLM

1. 骨干网络与维度参数

qwen3
总参数量 / 单步激活
32.8B (Dense)
非词嵌入参数量
31.2B
Hidden Size (d_model)
5,120
FFN Intermediate Size
25,600
激活函数 / RMSNorm
SiLU (SwiGLU) · ε=1e-6
原生权重精度
BF16

2. 注意力机制与混合层拓扑

GQA
Transformer 总层数
64 层
网络层排布 (Hidden Layout)
64 层标准稠密 Transformer (GQA + SwiGLU + QK-Norm)
注意力头 (Q / KV)
64 Q / 8 KV (8:1 GQA)
Head Dimension
128

3. 上下文、位置编码与词表

Tokenizer
原生上下文长度
32,768 tokens
最大扩展上下文 (YaRN)
131,072 tokens
旋转位置编码 (RoPE)
RoPE (θ=1,000,000 · 原生 32K · YaRN 4x→128K)
词表大小 (vocab_size)
151,936 (独立输出头)
特殊控制 Token ID
BOS: 151643 · EOS: [151645,151643] · PAD: 151643
语言覆盖
119 种语言与方言

📋 Qwen3-32B 官方 API 技术规格与计费参数总表

核验自 Alibaba Qwen 官方开发者文档与公开定价页(核验日期 2026-11-20)

API Model ID: Qwen/Qwen3-32B

1. 模型标识与能力开关

API Spec
官方调用 Model ID
Qwen/Qwen3-32B
版本发布日期
2025-04-29
权重授权形态
开源权重 (云端 API 规格)
原生深度推理思考
✅ 支持 (可调思考预算)
Function Calling & JSON Schema
✅ 原生支持
Batch API 异步批处理
✅ 支持 (通常享 5 折)

2. 上下文、输出上限与模态

Limits
最大输入上下文窗口
128,000 tokens (128K)
单次最大输出上限
131,000 tokens
支持输入模态
Text
支持输出模态
Text
中国大陆网络直连
✅ 国内极速直连 + 人民币结算
分发与部署形态
开源权重 + 托管云 API

3. 官方 Token 单价与缓存阶梯

CNY / 1M
标准输入单价 (每百万)
¥ 1
Prompt 缓存命中输入
¥ 1
标准输出单价 (每百万)
¥ 4
长上下文阶梯与计费备注
硅基流动 SiliconFlow:经典 32B 稠密模型 ¥1/M 高性价比托管

🏆 Qwen3-32B 官方基准评测成绩单

摘录自官方 System Card / Model Card 与权威公开横评表

Arena Elo ~1432 AA Index 41
📚 知识与指令 Thinking
MMLU-Redux 90.9 %

经人工重新逐题核对与纠错的 MMLU 精修版,消除了原数据集中的错标与歧义题目,使高分段对比更可靠。

📚 知识与指令 Thinking
C-Eval 87.3 %

面向中文语境的权威综合性基础模型评测集,涵盖理工、人文、社科与职业资格等 52 个学科共 13,948 道选择题。

🧠 数学与深度推理 Thinking
GPQA Diamond 68.4 %

研究生级物理、化学与生物高难防搜索推理选择题

🧠 数学与深度推理 Thinking
MATH-500 97.2 %

OpenAI 精选的 500 道具有代表性的高难度竞赛数学题子集(源自 MATH 数据集)。

🧠 数学与深度推理 Thinking
AIME 2024 81.4 %

2024 年美国数学邀请赛(AIME I & II)30 道竞赛数学真题,衡量竞赛级数学逻辑推导。

🧠 数学与深度推理 Thinking
AIME 2025 72.9 %

2025 年美国数学邀请赛(AIME I & II)全部 30 道奥数预选真题,考验多步代数、几何、数论与组合推理。

💻 代码工程 Thinking
LiveCodeBench v5 65.7 %

持续更新防泄漏的算法竞赛与代码生成评测基准(LiveCodeBench v5)。

🤖 Agent 工具调用 Thinking
BFCL v3 70.3 %

伯克利函数调用排行榜 v3,引入多轮动态对话与多步状态依赖场景下的工具调用评估。

🎛️ 官方调用采样与思考参数指南

API / 推理引擎调用时的最佳超参数与约束说明

思考模式 · 深度推理 (enable_thinking=True)
temperature=0.6 top_p=0.95 top_k=20 min_p=0 max_tokens=32,768

💡 官方严禁使用贪婪解码 (temperature=0),会导致性能下降与死循环复读;高难数学竞赛建议设 38,912 tokens

非思考模式 · 极速对话 (enable_thinking=False)
temperature=0.7 top_p=0.8 top_k=20 min_p=0 presence_penalty=1.5 max_tokens=32,768

💡 适合低延迟日常问答与高吞吐批处理,可设 presence_penalty=1.5 抑制重复

📊 Qwen3-32B 全量评测成绩与维度排名

共 8 项公开评测 · 排名为在本站 154 款有评测数据模型中的名次 · 数据同步于 2026-11-20

⚔️ 和其他模型逐项比分

来源:ZeroEval / llm-stats.com 公开评测聚合(✓ 为第三方验证,其余为厂商官方自报)。点击任一评测可查看全库排名。

⚡ Qwen3-32B 本地显存占用 & 实时吐字速度计算器

并发请求数 (Batch):
Dense 32.8B·64L (d=5120)·64Q/8KV·Ctx 128K
该设备兼容榜 →
并联卡数
32 GB VRAM·1792 GB/s·安全可用上限 31.4 GB
流畅可跑25.03 / 31.4 GB~58.6 tok/s
3. 权重量化精度
4. 单并发上下文窗口16K (16,384 tok)
参数核验:2026-11-20·带宽与算力屋顶模型估算(当前并发=1)
流畅可跑
25.03/ 31.4 GB 可用显存

物理总容量 32 GB · 占用率 79.8%

理论带宽解码速度 (Decode)
~58.6tokens/s

实际吞吐受框架 (vLLM/Ollama/Unsloth) 影响约 ±25%

当前并发 (1x) 最大可开窗口
39K/ 128K

高并发下开启 Q8/Q4 KV 量化可成倍提升并发上限

模型权重: 19.88 GBKV Cache (1×16K): 4.29 GB框架开销: 0.85 GB
🚀 闪电秒出(长推理/写代码极爽)生成 500 Token 回答约需 8.5 秒
参考启动命令:
OLLAMA_CONTEXT_LENGTH=16384 ollama run qwen3:32b

RTX 5090 可运行 Qwen3-32B · 硬件成本与回本参考

参考均价约 ¥18,999(折合 ¥594/GB)· 满载约 575W

📊 Qwen3-32B 各量化精度显存占用对照表 (16K 上下文)

量化格式 等效位数 纯权重体积 KV Cache (16K) 总显存需求 精度评价
FP16 / BF16 16 bpw 65.6 GB 4.29 GB 71.66 GB 无损原精度
FP8 / Q8_0 8.5 bpw 34.85 GB 4.29 GB 40.29 GB 99.9% 接近无损
GGUF Q6_K 6.56 bpw 26.9 GB 4.29 GB 32.18 GB 极高画质 · 严肃编码
GGUF Q5_K_M 5.69 bpw 23.33 GB 4.29 GB 28.54 GB 高均衡度
Q4_K_M / AWQ 4.85 bpw 19.88 GB 4.29 GB 25.03 GB 黄金甜点(推荐)
GGUF IQ4_XS 4.25 bpw 17.42 GB 4.29 GB 22.52 GB 省显存优选
GGUF Q3_K_M 3.91 bpw 16.03 GB 4.29 GB 21.1 GB 轻度智商折损
GGUF Q2_K 3.15 bpw 12.91 GB 4.29 GB 17.92 GB 极限压缩尝鲜

🖥️ 主流显卡、Mac 与国产卡运行 Qwen3-32B (Q4_K_M) 兼容性列表

常见问题解答 (FAQ)

Qwen3-32B 的核心网络架构参数(层数、隐藏维度、注意力头、词表)是多少?

Qwen3-32B 底层架构为 Qwen3ForCausalLM,共 64 层(64 层标准稠密 Transformer (GQA + SwiGLU + QK-Norm)),隐藏层维度 hidden_size=5120,注意力头配置为 64 个 Query 头 / 8 个 KV 头(head_dim=128),词表大小 vocab_size=151,936,原生上下文窗口 32,768 tokens。

Qwen3-32B 本地部署至少需要多少 GB 显存?

在主流 4-bit 量化(GGUF Q4_K_M / AWQ,16K 上下文)下,Qwen3-32B 共需约 25.03 GB 显存(含权重 19.88 GB + KV 缓存 4.29 GB + 系统开销 0.85 GB)。无损 FP16/BF16 则需约 71.66 GB。

Qwen3-32B 官方推荐的采样参数(Temperature / Top-P)是多少?

依据官方 generation_config.json 与最佳实践,在「思考模式 · 深度推理 (enable_thinking=True)」下建议设置 temperature=0.6、top_p=0.95、top_k=20。注意:官方严禁使用贪婪解码 (temperature=0),会导致性能下降与死循环复读;高难数学竞赛建议设 38,912 tokens