ai.canshu.com
EN
显存计算器 配机与回本向导 API 价格 同屏 PK 对比 模型库 排行榜 显卡库

全局搜索模型、显卡与工具

↑↓ 移动 · Enter 直达 · ★ 优先展示我的关注 ai.canshu.com
Alibaba Qwen
开源权重 Alibaba Qwen · MoE 36B / A3B · Text+Image+Video · BF16 / FP8

Qwen3.6-35B-A3B (MoE) 模型架构参数、评测与显存全表

千问 3.6 针对真实编码稳定性打磨的 36B/A3B 稀疏多模态模型,24GB/48GB 设备高吞吐甜点。

🧬 Qwen3.6-35B-A3B (MoE) 底层网络与张量参数总表 (Model Overview & config.json)

全部字段同步自官方 HuggingFace 仓库 (Qwen/Qwen3.6-35B-A3B) 的 config.json 与技术报告 · 核验日期 2026-11-20

HF Class: Qwen3_5MoeForConditionalGeneration

1. 骨干网络与维度参数

qwen3_5_moe
总参数量 / 单步激活
36B / 3B
Hidden Size (d_model)
2,048
MoE 专家中间层维度
512
MoE 专家配置
256 路由 · 激活8
激活函数 / RMSNorm
SiLU (SwiGLU) · ε=0.000001
原生权重精度
BF16 / FP8

2. 注意力机制与混合层拓扑

HYBRID
Transformer 总层数
40 层 (10 层全局 KV)
网络层排布 (Hidden Layout)
40 层稀疏 MoE 架构(256 路由专家,单步激活 8 个)
注意力头 (Q / KV)
16 Q / 2 KV (8:1 GQA)
Head Dimension
256
视觉编码器 / MTP 头
ViT 27L

3. 上下文、位置编码与词表

Tokenizer
原生上下文长度
262,144 tokens
旋转位置编码 (RoPE)
RoPE (原生 262,144 Context)
词表大小 (vocab_size)
248,320 (独立输出头)

📋 Qwen3.6-35B-A3B (MoE) 官方 API 技术规格与计费参数总表

核验自 Alibaba Qwen 官方开发者文档与公开定价页(核验日期 2026-11-20)

API Model ID: Qwen/Qwen3.6-35B-A3B

1. 模型标识与能力开关

API Spec
官方调用 Model ID
Qwen/Qwen3.6-35B-A3B
版本发布日期
2026-04-17
权重授权形态
开源权重 (云端 API 规格)
原生深度推理思考
—
Function Calling & JSON Schema
✅ 原生支持
Batch API 异步批处理
✅ 支持 (通常享 5 折)

2. 上下文、输出上限与模态

Limits
最大输入上下文窗口
256,000 tokens (256K)
单次最大输出上限
66,000 tokens
支持输入模态
Text + Image + Video
支持输出模态
Text
中国大陆网络直连
✅ 国内极速直连 + 人民币结算
分发与部署形态
开源权重 + 托管云 API

3. 官方 Token 单价与缓存阶梯

CNY / 1M
标准输入单价 (每百万)
¥ 1.8
Prompt 缓存命中输入
¥ 1.8
标准输出单价 (每百万)
¥ 10.76
长上下文阶梯与计费备注
硅基流动 SiliconFlow:高吞吐稀疏 MoE 编程模型托管

🎛️ 官方调用采样与思考参数指南

API / 推理引擎调用时的最佳超参数与约束说明

官方默认推理采样配置
temperature=0.7 top_p=0.95 max_tokens=32,768

📊 Qwen3.6-35B-A3B (MoE) 全量评测成绩与维度排名

共 49 项公开评测 · 排名为在本站 154 款有评测数据模型中的名次 · 数据同步于 2026-11-20

⚔️ 和其他模型逐项比分

📐 数学 10 项

MMLU-Redux #7/15 93.3%

经人工重新逐题核对与纠错的 MMLU 精修版,消除了原数据集中的错标与歧义题目,使高分段对比更可靠。

AIME 2026 #12/18 92.7%

2026 年美国数学邀请赛(AIME I & II)全部 30 道竞赛真题,要求输出 000–999 精确整数答案,检验奥数级推理能力。

HMMT 2025 #10/11 90.7%

2025 年哈佛-麻省理工数学锦标赛(HMMT)竞赛数学评测,涵盖代数、几何与组合难题。

HMMT25 #7/9 89.1%

2025 年哈佛-麻省理工数学锦标赛(HMMT)高难度数学竞赛基准。

MathVista-Mini #5/7 86.4%

MathVista 视觉数学与图表推理的精简核心评测集。

MMLU-Pro #15/39 85.2%

MMLU 进阶推理增强版,将选项从 4 个扩充至 10 个并剔除简单记忆题,重点考察跨学科复杂计算与多步逻辑推理。

HMMT Feb 26 #10/11 83.6%

2026 年 2 月哈佛-麻省理工数学锦标赛(HMMT)高难度竞赛真题评测。

IMO-AnswerBench #17/17 78.9%

国际数学奥林匹克(IMO)级别高难数学答案生成与验证基准,测试顶级数学竞赛求解实力。

SuperGPQA #11/16 64.7%

超大规模研究生级跨学科评测,涵盖工程、理学、医学、法学、经济学等 13 大门类共 285 个研究生学科、25,957 道高难度专业题。

Humanity's Last Exam #53/69 21.4%

「人类最后的考试」(HLE),由全球学者联合出题的 2,500 道数学、人文与自然科学前沿难题(图文多模态),专门测试大模型在人类知识边界上的推理极限。

👁️ 多模态与视觉 21 项

MMBench-V1.1 #1/6 92.8%

中英双语系统化多模态理解评测基准(MMBench v1.1),采用循环选项策略消除位置偏置。

AI2D #4/7 92.7%

包含近 5,000 张自然科学教学示意图(食物网、人体结构、地质循环)的图表关系理解基准。

OmniDocBench 1.5 #5/16 89.9%

全方位复杂版面文档视觉解析基准(1.5),综合评测多栏论文、财报表格、公式识别(OCR)、阅读顺序还原与文档问答。

VideoMME w sub. #5/8 86.6%

附带视频字幕输入的 Video-MME 全时长综合视频理解与时序推理评测。

MLVU #5/7 86.2%

时长跨度 3 分钟至 2 小时的多任务长视频理解基准,涵盖剧情推理、片段定位与异常识别等 9 类任务。

RealWorldQA #7/13 85.3%

源自车载相机与真实街道场景的 700+ 张实拍图像物理空间常识理解评测。

VideoMMMU #8/14 83.7%

专家级专业学科教学视频多模态评测,考察从观看学术与工程课程视频中获取新知识并解题的能力。

VideoMME w/o sub. #3/4 82.5%

不提供字幕、纯靠视频画面与音频理解的 Video-MME 综合视频评测。

CC-OCR #2/6 81.9%

面向多模态大模型的多场景文字读取、多语种识别、版面解析与关键信息提取综合 OCR 评测。

MMMU #6/16 81.7%

大规模多学科多模态理解基准,汇集大学考试与教材中的 1.15 万道图表、公式、电路图与医学影像专业推理题。

CharXiv-R #29/41 78%

科学论文真实复杂图表深度推理基准(CharXiv-R),要求跨多子图、图例与数据趋势进行定量比较与综合推演。

MMMU-Pro #28/44 75.3%

MMMU 抗猜题增强版大学多学科多模态基准,剔除了仅靠纯文本就能猜对的题目并引入纯视觉输入截图模式,严格考察图文深度融合推理。

MVBench #5/7 74.6%

包含 20 类无法仅靠单帧静态截图回答的动态时序理解任务的多模态视频基准。

LVBench #13/15 71.4%

超长视频理解基准(最长可达 2 小时),评估模型在极长视频流中的跨时段事件定位、摘要与因果推理。

Hallusion Bench #2/6 69.8%

专门诱发并检测多模态模型「语言先验幻觉」与「视觉错觉」的图文抗干扰基准。

ODinW #3/7 50.8%

开放真实世界多样化场景下的零样本/少样本目标检测泛化能力基准(ODinW)。

RefCOCO-avg #3/6 0.9

在 RefCOCO、RefCOCO+ 与 RefCOCOg 三大经典指代表达目标框定位数据集上的平均准确率。

EmbSpatialBench #3/6 0.8

面向具身机器人场景的三维空间方位理解与推理评测。

RefSpatialBench #5/7 0.6

精细空间方位指代理解与目标视觉定位评测。

SimpleVQA #10/13 0.6

面向简明客观事实看图问答的视觉准确性评测。

ZEROBench-Sub #4/5 0.3

ZEROBench 高难视觉推理的子任务分解得分集。

来源:ZeroEval / llm-stats.com 公开评测聚合(✓ 为第三方验证,其余为厂商官方自报)。点击任一评测可查看全库排名。

⚡ Qwen3.6-35B-A3B (MoE) 本地显存占用 & 实时吐字速度计算器

并发请求数 (Batch):
MoE 36B / A3B·40L (d=2048)·16Q/2KV·Ctx 256K·Text+Image+Video
该设备兼容榜 →
并联卡数
32 GB VRAM·1792 GB/s·安全可用上限 31.4 GB
流畅可跑23.96 / 31.4 GB~420 tok/s
3. 权重量化精度
4. 单并发上下文窗口16K (16,384 tok)
参数核验:2026-11-20·带宽与算力屋顶模型估算(当前并发=1)
流畅可跑
23.96/ 31.4 GB 可用显存

物理总容量 32 GB · 占用率 76.4%

理论带宽解码速度 (Decode)
~420tokens/s

MoE 架构:每步仅读取 1.82 GB 激活权重

当前并发 (1x) 最大可开窗口
256K/ 256K

高并发下开启 Q8/Q4 KV 量化可成倍提升并发上限

模型权重: 21.83 GBKV Cache (1×16K): 0.4 GB框架开销: 1.74 GB
🚀 闪电秒出(长推理/写代码极爽)生成 500 Token 回答约需 1.2 秒
参考启动命令:
OLLAMA_CONTEXT_LENGTH=16384 ollama run qwen3-6-35b-a3b

RTX 5090 可运行 Qwen3.6-35B-A3B (MoE) · 硬件成本与回本参考

参考均价约 ¥18,999(折合 ¥594/GB)· 满载约 575W

📊 Qwen3.6-35B-A3B (MoE) 各量化精度显存占用对照表 (16K 上下文)

量化格式 等效位数 纯权重体积 KV Cache (16K) 总显存需求 精度评价
FP16 / BF16 16 bpw 72 GB 0.4 GB 75.14 GB 无损原精度
FP8 / Q8_0 8.5 bpw 38.25 GB 0.4 GB 40.72 GB 99.9% 接近无损
GGUF Q6_K 6.56 bpw 29.52 GB 0.4 GB 31.81 GB 极高画质 · 严肃编码
GGUF Q5_K_M 5.69 bpw 25.61 GB 0.4 GB 27.82 GB 高均衡度
Q4_K_M / AWQ 4.85 bpw 21.83 GB 0.4 GB 23.96 GB 黄金甜点(推荐)
GGUF IQ4_XS 4.25 bpw 19.13 GB 0.4 GB 21.21 GB 省显存优选
GGUF Q3_K_M 3.91 bpw 17.6 GB 0.4 GB 19.65 GB 轻度智商折损
GGUF Q2_K 3.15 bpw 14.18 GB 0.4 GB 16.16 GB 极限压缩尝鲜

🖥️ 主流显卡、Mac 与国产卡运行 Qwen3.6-35B-A3B (MoE) (Q4_K_M) 兼容性列表

常见问题解答 (FAQ)

Qwen3.6-35B-A3B (MoE) 的核心网络架构参数(层数、隐藏维度、注意力头、词表)是多少?

Qwen3.6-35B-A3B (MoE) 底层架构为 Qwen3_5MoeForConditionalGeneration,共 40 层(40 层稀疏 MoE 架构(256 路由专家,单步激活 8 个)),隐藏层维度 hidden_size=2048,注意力头配置为 16 个 Query 头 / 2 个 KV 头(head_dim=256),词表大小 vocab_size=248,320,原生上下文窗口 262,144 tokens。

Qwen3.6-35B-A3B (MoE) 本地部署至少需要多少 GB 显存?

在主流 4-bit 量化(GGUF Q4_K_M / AWQ,16K 上下文)下,Qwen3.6-35B-A3B (MoE) 共需约 23.96 GB 显存(含权重 21.83 GB + KV 缓存 0.4 GB + 系统开销 1.74 GB)。无损 FP16/BF16 则需约 75.14 GB。

Qwen3.6-35B-A3B (MoE) 官方推荐的采样参数(Temperature / Top-P)是多少?

依据官方 generation_config.json 与最佳实践,在「官方默认推理采样配置」下建议设置 temperature=0.7、top_p=0.95。