ai.canshu.com
EN
显存计算器 配机与回本向导 API 价格 同屏 PK 对比 模型库 排行榜 显卡库

全局搜索模型、显卡与工具

↑↓ 移动 · Enter 直达 · ★ 优先展示我的关注 ai.canshu.com
Alibaba Qwen
开源权重 Alibaba Qwen · MoE 122B / A10B · Text+Image+Video · BF16

Qwen3.5-122B-A10B (MoE) 模型架构参数、评测与显存全表

128GB 统一内存主机(Mac Studio M5 Max / Ryzen AI Max+ 395 / DGX Spark)的绝配千亿模型:总参 122B 仅激活 10B,Q4_K_M 约 75GB 轻松装入且吐字极快。

🧬 Qwen3.5-122B-A10B (MoE) 底层网络与张量参数总表 (Model Overview & config.json)

全部字段同步自官方 HuggingFace 仓库 (Qwen/Qwen3.5-122B-A10B) 的 config.json 与技术报告 · 核验日期 2026-11-20

HF Class: Qwen3_5MoeForConditionalGeneration

1. 骨干网络与维度参数

qwen3_5_moe
总参数量 / 单步激活
122B / 10B
Hidden Size (d_model)
3,072
MoE 专家中间层维度
1,024
MoE 专家配置
256 路由 · 激活8 + 1 共享
激活函数 / RMSNorm
SiLU (SwiGLU) · ε=1e-6
原生权重精度
BF16

2. 注意力机制与混合层拓扑

HYBRID
Transformer 总层数
48 层 (12 层全局 KV)
网络层排布 (Hidden Layout)
48 层混合 MoE:12 × [3 层 Gated DeltaNet→MoE + 1 层 Gated Attention→MoE]
注意力头 (Q / KV)
32 Q / 2 KV (16:1 GQA)
Head Dimension
256
线性注意力 / KV 压缩机制
仅 12 层 × 2 KV 头产生缓存,256 路由专家单步激活 8 专家
视觉编码器 / MTP 头
ViT 27L · MTP 1L

3. 上下文、位置编码与词表

Tokenizer
原生上下文长度
262,144 tokens
最大扩展上下文 (YaRN)
1,010,000 tokens
旋转位置编码 (RoPE)
mRoPE (θ=10,000,000 · partial=0.25 · YaRN 4x→1M)
词表大小 (vocab_size)
248,320 (独立输出头)
特殊控制 Token ID
BOS: 248044 · EOS: [248046,248044] · PAD: 248044

📋 Qwen3.5-122B-A10B (MoE) 官方 API 技术规格与计费参数总表

核验自 Alibaba Qwen 官方开发者文档与公开定价页(核验日期 2026-11-20)

API Model ID: Qwen/Qwen3.5-122B-A10B

1. 模型标识与能力开关

API Spec
官方调用 Model ID
Qwen/Qwen3.5-122B-A10B
版本发布日期
2026-02-23
权重授权形态
开源权重 (云端 API 规格)
原生深度推理思考
✅ 支持 (可调思考预算)
Function Calling & JSON Schema
✅ 原生支持
Batch API 异步批处理
✅ 支持 (通常享 5 折)

2. 上下文、输出上限与模态

Limits
最大输入上下文窗口
256,000 tokens (256K)
单次最大输出上限
66,000 tokens
支持输入模态
Text + Image + Video
支持输出模态
Text
中国大陆网络直连
✅ 国内极速直连 + 人民币结算
分发与部署形态
开源权重 + 托管云 API

3. 官方 Token 单价与缓存阶梯

CNY / 1M
标准输入单价 (每百万)
¥ 0.8
Prompt 缓存命中输入
¥ 0.8
标准输出单价 (每百万)
¥ 6.38
长上下文阶梯与计费备注
硅基流动 SiliconFlow:仅 ¥0.8/M 输入跑 122B 大模型

🏆 Qwen3.5-122B-A10B (MoE) 官方基准评测成绩单

摘录自官方 System Card / Model Card 与权威公开横评表

Arena Elo ~1478 AA Index 48
📚 知识与指令
MMLU-Pro 86.7 %

MMLU 进阶推理增强版,将选项从 4 个扩充至 10 个并剔除简单记忆题,重点考察跨学科复杂计算与多步逻辑推理。

📚 知识与指令
C-Eval 91.9 %

面向中文语境的权威综合性基础模型评测集,涵盖理工、人文、社科与职业资格等 52 个学科共 13,948 道选择题。

🧠 数学与深度推理
GPQA Diamond 86.6 %

研究生级物理、化学与生物高难防搜索推理选择题

💻 代码工程
SWE-bench Verified 72 %

经人类工程师逐题验证可解的 500 道真实 GitHub 开源仓库 Issue 修复基准,衡量模型阅读大型代码库并生成通过单测补丁的实战工程能力。

💻 代码工程
LiveCodeBench v6 78.9 %

零数据污染的动态竞赛编程基准(v6),持续采集 LeetCode、AtCoder 与 CodeForces 最新赛题,全面测试算法编写、修复与执行推理。

🤖 Agent 工具调用
BFCL-V4 72.2 %

伯克利函数调用排行榜第 4 代(BFCL-V4),全面评测单步、多步、并行、嵌套及多轮对话下的 API / Function Calling 精确度。

👁️ 视觉与多模态
MMMU 83.9 %

大规模多学科多模态理解基准,汇集大学考试与教材中的 1.15 万道图表、公式、电路图与医学影像专业推理题。

🎛️ 官方调用采样与思考参数指南

API / 推理引擎调用时的最佳超参数与约束说明

思考模式 (Thinking Mode)
temperature=0.6 top_p=0.95 top_k=20 max_tokens=32,768

📊 Qwen3.5-122B-A10B (MoE) 全量评测成绩与维度排名

共 81 项公开评测 · 排名为在本站 154 款有评测数据模型中的名次 · 数据同步于 2026-11-20

⚔️ 和其他模型逐项比分

🤖 Agent 与工具调用 11 项

t2-bench #8/12 79.5%

评估智能体自主规划、工具链选择与多步任务闭环执行能力的评测基准。

BFCL-V4 #5/10 72.2%

伯克利函数调用排行榜第 4 代(BFCL-V4),全面评测单步、多步、并行、嵌套及多轮对话下的 API / Function Calling 精确度。

BrowseComp-zh #3/7 69.9%

专为中文互联网环境打造的高难度多跳搜索智能体基准,含影视、科技、医学、历史等 11 大领域的 289 道深层信息挖掘题。

AndroidWorld_SR #2/3 66.4%

真实 Android 环境跨 20 款主流应用的 116 项手机自动化任务成功率(Success Rate)评测。

BrowseComp #38/54 63.8%

OpenAI 发布的深度联网搜索基准,含 1,266 道需要智能体在互联网上反复检索、交叉核实才能找到隐蔽线索的高难多跳检索题。

WideSearch #10/13 60.5%

广度并行搜索智能体基准,考察模型跨海量信息源执行大规模并行检索、去重汇总与结构化整理的能力。

OSWorld-Verified #22/26 58%

真实桌面操作系统多模态智能体评测验证集(OSWorld-Verified),在 Ubuntu、Windows 与 macOS 虚拟机中直接操控鼠标键盘完成跨软件任务。

TIR-Bench #4/4 53.2%

图文交互与外部工具联合调用(Tool-Integrated Reasoning)视觉指令执行基准。

Seal-0 #4/5 44.1%

考察智能体利用搜索工具在嘈杂网页信息中定位并核实答案的检索评测。

VITA-Bench #7/8 33.6%

虚拟环境真实复杂多步任务自动化智能体评测。

DeepPlanning #5/7 24.1%

考察超长链路目标拆解、约束协调与战略决策的多步规划评测。

📐 数学 13 项

MMLU-Redux #5/15 94%

经人工重新逐题核对与纠错的 MMLU 精修版,消除了原数据集中的错标与歧义题目,使高分段对比更可靠。

HMMT 2025 #9/11 91.4%

2025 年哈佛-麻省理工数学锦标赛(HMMT)竞赛数学评测,涵盖代数、几何与组合难题。

HMMT25 #4/9 90.3%

2025 年哈佛-麻省理工数学锦标赛(HMMT)高难度数学竞赛基准。

MathVista-Mini #3/7 87.4%

MathVista 视觉数学与图表推理的精简核心评测集。

MMLU-Pro #9/39 86.7%

MMLU 进阶推理增强版,将选项从 4 个扩充至 10 个并剔除简单记忆题,重点考察跨学科复杂计算与多步逻辑推理。

MMMLU #12/20 86.7%

OpenAI 发布的多语言版 MMLU,由专业译者将题目精准翻译为中文、阿拉伯语、德语、法语、日语等 14 种语言,衡量跨语言综合知识。

MathVision #10/20 86.2%

多模态竞赛数学推理基准(MATH-Vision),精选必须看懂几何图形、函数图像或组合示意图才能求解的真实数学竞赛题。

DynaMath #3/8 85.9%

通过动态变化图形参数与函数视图检验多模态数学推理稳健性的基准(DynaMath)。

MMLU-ProX #6/13 82.2%

MMLU-Pro 的多语种对齐扩展版,在 29 种不同语系语言上提供完全对齐的 11,829 道高难度学科推理题。

PolyMATH #6/9 68.9%

包含 5,000 道人工精选图文题的多模态数学与空间认知推理基准。

SuperGPQA #6/16 67.1%

超大规模研究生级跨学科评测,涵盖工程、理学、医学、法学、经济学等 13 大门类共 285 个研究生学科、25,957 道高难度专业题。

Humanity's Last Exam #25/69 47.5%

「人类最后的考试」(HLE),由全球学者联合出题的 2,500 道数学、人文与自然科学前沿难题(图文多模态),专门测试大模型在人类知识边界上的推理极限。

CodeForces #5/8 0.9

基于知名算法竞赛平台 CodeForces 真题(难度分 800–2400)的竞技编程能力评测。

👁️ 多模态与视觉 39 项

VLMsAreBlind #4/6 96.7%

探测视觉大模型在数线条、判交点、认嵌套图形等基础几何感知上「睁眼瞎」盲区的诊断基准。

AI2D #2/7 93.3%

包含近 5,000 张自然科学教学示意图(食物网、人体结构、地质循环)的图表关系理解基准。

V* #5/7 93.2%

考察高分辨率大图局部细节主动搜寻与空间接地推理的视觉基准(V*)。

MMBench-V1.1 #1/6 92.8%

中英双语系统化多模态理解评测基准(MMBench v1.1),采用循环选项策略消除位置偏置。

OCRBench #2/5 92.1%

评估多模态大模型在自然场景文字、古籍手写与复杂文档中光学字符识别(OCR)能力的综合基准。

OmniDocBench 1.5 #6/16 89.8%

全方位复杂版面文档视觉解析基准(1.5),综合评测多栏论文、财报表格、公式识别(OCR)、阅读顺序还原与文档问答。

VideoMME w sub. #3/8 87.3%

附带视频字幕输入的 Video-MME 全时长综合视频理解与时序推理评测。

MLVU #2/7 87.3%

时长跨度 3 分钟至 2 小时的多任务长视频理解基准,涵盖剧情推理、片段定位与异常识别等 9 类任务。

RealWorldQA #8/13 85.1%

源自车载相机与真实街道场景的 700+ 张实拍图像物理空间常识理解评测。

VideoMME w/o sub. #1/4 83.9%

不提供字幕、纯靠视频画面与音频理解的 Video-MME 综合视频评测。

MMMU #2/16 83.9%

大规模多学科多模态理解基准,汇集大学考试与教材中的 1.15 万道图表、公式、电路图与医学影像专业推理题。

MMStar #2/8 82.9%

经过严格人工筛选、剔除「不看图也能答对」样本的 1,500 道纯视觉强依赖多模态评测。

VideoMMMU #11/14 82%

专家级专业学科教学视频多模态评测,考察从观看学术与工程课程视频中获取新知识并解题的能力。

CC-OCR #3/6 81.8%

面向多模态大模型的多场景文字读取、多语种识别、版面解析与关键信息提取综合 OCR 评测。

SlakeVQA #1/3 81.6%

中英双语医学放射影像(CT、MRI、X 光)语义标注视觉问答基准。

LingoQA #3/4 80.8%

自动驾驶交通场景视觉感知与自然语言因果问答基准。

CharXiv-R #34/41 77.2%

科学论文真实复杂图表深度推理基准(CharXiv-R),要求跨多子图、图例与数据趋势进行定量比较与综合推演。

MMMU-Pro #21/44 76.9%

MMMU 抗猜题增强版大学多学科多模态基准,剔除了仅靠纯文本就能猜对的题目并引入纯视觉输入截图模式,严格考察图文深度融合推理。

MVBench #2/7 76.6%

包含 20 类无法仅靠单帧静态截图回答的动态时序理解任务的多模态视频基准。

MMVU #3/7 74.7%

跨多学科专业领域的视频知识理解与科学实验推理基准(MMVU)。

LVBench #10/15 74.4%

超长视频理解基准(最长可达 2 小时),评估模型在极长视频流中的跨时段事件定位、摘要与因果推理。

ScreenSpot Pro #6/10 70.4%

面向高分辨率专业桌面软件(CAD、IDE、修图与工业软件)极小图标与控件精确定位的 GUI 视觉接地基准。

Hallusion Bench #4/6 67.6%

专门诱发并检测多模态模型「语言先验幻觉」与「视觉错觉」的图文抗干扰基准。

MedXpertQA #1/6 67.3%

覆盖 17 个临床专科与 11 大人体系统的 4,460 道专家级医学文本与多模态影像诊断推理基准。

PMC-VQA #1/3 63.3%

基于生物医学文献插图与临床医学影像构建的视觉问答基准。

ERQA #10/13 62%

具身智能空间推理问答基准(ERQA),涵盖空间方位、运动轨迹、动作后果与多视角状态估计的 400 道视觉题。

ODinW #4/7 44.5%

开放真实世界多样化场景下的零样本/少样本目标检测泛化能力基准(ODinW)。

BabyVision #13/15 40.2%

面向基础早期视觉直觉感知与趣味图形推理的视觉基准。

Nuscene #1/3 15.4%

基于 nuScenes 自动驾驶街景数据的多传感器空间理解与驾驶决策推理基准。

CountBench #6/7 1

专门考察视觉模型对画面中密集同类物体精确计数能力的评测。

RefCOCO-avg #4/6 0.9

在 RefCOCO、RefCOCO+ 与 RefCOCOg 三大经典指代表达目标框定位数据集上的平均准确率。

EmbSpatialBench #4/6 0.8

面向具身机器人场景的三维空间方位理解与推理评测。

RefSpatialBench #3/7 0.7

精细空间方位指代理解与目标视觉定位评测。

SimpleVQA #9/13 0.6

面向简明客观事实看图问答的视觉准确性评测。

MMLongBench-Doc #5/6 0.6

超长篇幅多页图文 PDF 文档跨页视觉理解与推理基准。

SUNRGBD #1/3 0.4

基于 RGB-D 室内点云与图像的三维场景理解与物体空间定位评测。

ZEROBench-Sub #1/5 0.4

ZEROBench 高难视觉推理的子任务分解得分集。

Hypersim #3/3 0.1

合成逼真室内场景下的三维空间定位与深度估计视觉评测。

ZEROBench #11/13 0.1

针对前沿视觉大模型设计的高难度零样本复杂视觉推理基准(主集人类精心构造极难视觉题)。

来源:ZeroEval / llm-stats.com 公开评测聚合(✓ 为第三方验证,其余为厂商官方自报)。点击任一评测可查看全库排名。

⚡ Qwen3.5-122B-A10B (MoE) 本地显存占用 & 实时吐字速度计算器

并发请求数 (Batch):
MoE 122B / A10B·48L (d=3072)·32Q/2KV·Ctx 256K·Text+Image+Video
该设备兼容榜 →
128 GB 统一内存·614 GB/s·安全可用上限 108.8 GB
流畅可跑77.26 / 108.8 GB~64.1 tok/s
3. 权重量化精度
4. 单并发上下文窗口16K (16,384 tok)
参数核验:2026-11-20·带宽与算力屋顶模型估算(当前并发=1)
流畅可跑
77.26/ 108.8 GB 可用显存

物理总容量 128 GB · 占用率 71%

理论带宽解码速度 (Decode)
~64.1tokens/s

MoE 架构:每步仅读取 6.06 GB 激活权重

当前并发 (1x) 最大可开窗口
256K/ 256K

高并发下开启 Q8/Q4 KV 量化可成倍提升并发上限

模型权重: 73.96 GBKV Cache (1×16K): 0.52 GB框架开销: 2.78 GB
统一内存默认预留约 15% 给操作系统
🚀 闪电秒出(长推理/写代码极爽)生成 500 Token 回答约需 7.8 秒
参考启动命令:
OLLAMA_CONTEXT_LENGTH=16384 ollama run qwen3.5:122b-a10b

Mac Studio M5 Max 128G 可运行 Qwen3.5-122B-A10B (MoE) · 硬件成本与回本参考

参考均价约 ¥27,999(折合 ¥219/GB)· 满载约 120W

📊 Qwen3.5-122B-A10B (MoE) 各量化精度显存占用对照表 (16K 上下文)

量化格式 等效位数 纯权重体积 KV Cache (16K) 总显存需求 精度评价
FP16 / BF16 16 bpw 244 GB 0.52 GB 250.7 GB 无损原精度
FP8 / Q8_0 8.5 bpw 129.63 GB 0.52 GB 134.04 GB 99.9% 接近无损
GGUF Q6_K 6.56 bpw 100.04 GB 0.52 GB 103.86 GB 极高画质 · 严肃编码
GGUF Q5_K_M 5.69 bpw 86.77 GB 0.52 GB 90.33 GB 高均衡度
Q4_K_M / AWQ 4.85 bpw 73.96 GB 0.52 GB 77.26 GB 黄金甜点(推荐)
GGUF IQ4_XS 4.25 bpw 64.81 GB 0.52 GB 67.93 GB 省显存优选
GGUF Q3_K_M 3.91 bpw 59.63 GB 0.52 GB 62.64 GB 轻度智商折损
GGUF Q2_K 3.15 bpw 48.04 GB 0.52 GB 50.82 GB 极限压缩尝鲜

🖥️ 主流显卡、Mac 与国产卡运行 Qwen3.5-122B-A10B (MoE) (Q4_K_M) 兼容性列表

常见问题解答 (FAQ)

Qwen3.5-122B-A10B (MoE) 的核心网络架构参数(层数、隐藏维度、注意力头、词表)是多少?

Qwen3.5-122B-A10B (MoE) 底层架构为 Qwen3_5MoeForConditionalGeneration,共 48 层(48 层混合 MoE:12 × [3 层 Gated DeltaNet→MoE + 1 层 Gated Attention→MoE]),隐藏层维度 hidden_size=3072,注意力头配置为 32 个 Query 头 / 2 个 KV 头(head_dim=256),词表大小 vocab_size=248,320,原生上下文窗口 262,144 tokens。

Qwen3.5-122B-A10B (MoE) 本地部署至少需要多少 GB 显存?

在主流 4-bit 量化(GGUF Q4_K_M / AWQ,16K 上下文)下,Qwen3.5-122B-A10B (MoE) 共需约 77.26 GB 显存(含权重 73.96 GB + KV 缓存 0.52 GB + 系统开销 2.78 GB)。无损 FP16/BF16 则需约 250.7 GB。

Qwen3.5-122B-A10B (MoE) 官方推荐的采样参数(Temperature / Top-P)是多少?

依据官方 generation_config.json 与最佳实践,在「思考模式 (Thinking Mode)」下建议设置 temperature=0.6、top_p=0.95、top_k=20。