GLM-5.3-Flash (320B-A18B MoE) 模型架构参数、评测与显存全表
智谱 MIT 开源多模态与 Agent 主力 MoE(总参 320B,激活 18B),适配大统一内存 Mac Studio 与企业多卡国产算力集群。
🧬 GLM-5.3-Flash (320B-A18B MoE) 底层网络与张量参数总表 (Model Overview & config.json)
全部字段同步自官方 HuggingFace 仓库 (zai-org/GLM-5.3-Flash) 的 config.json 与技术报告 · 核验日期 2026-11-20
1. 骨干网络与维度参数
glm5_next- 总参数量 / 单步激活
- 320B / 18B
- Hidden Size (d_model)
- 4,096
- FFN Intermediate Size
- 12,288
- MoE 专家中间层维度
- 2,048
- MoE 专家配置
- 288 路由 · 激活8 + 1 共享
- 激活函数 / RMSNorm
- SiLU (SwiGLU) · ε=1e-5
- 原生权重精度
- BF16
2. 注意力机制与混合层拓扑
MLA- Transformer 总层数
- 45 层 (11 层全局 KV)
- 网络层排布 (Hidden Layout)
- 45 层混合稀疏架构:34 层线性注意力 + 11 层 DeepSeek 稀疏注意力 (DSA) + mHC 超连接
- 注意力头 (Q / KV)
- 64 Q / 64 KV
- Head Dimension
- 0
- 线性注意力 / KV 压缩机制
- 34 层线性注意力无 KV 增长 + 11 层 DSA 低秩压缩 (kv_lora_rank=512)
- 视觉编码器 / MTP 头
- ViT 24L · MTP 1L
3. 上下文、位置编码与词表
Tokenizer- 原生上下文长度
- 1,048,576 tokens
- 旋转位置编码 (RoPE)
- Hybrid DSA Position Encoding (原生 1,048,576 / 1M Context)
- 词表大小 (vocab_size)
- 154,880 (独立输出头)
- 特殊控制 Token ID
- EOS: [154820,154827,154829] · PAD: 154820
📋 GLM-5.3-Flash (320B-A18B MoE) 官方 API 技术规格与计费参数总表
核验自 Zhipu AI 官方开发者文档与公开定价页(核验日期 2026-11-20)
1. 模型标识与能力开关
API Spec- 官方调用 Model ID
- glm-5.3-flash
- 版本发布日期
- 2026-08-26
- 权重授权形态
- 开源权重 (云端 API 规格)
- 原生深度推理思考
- ✅ 支持 (可调思考预算)
- Function Calling & JSON Schema
- ✅ 原生支持
- Batch API 异步批处理
- ✅ 支持 (通常享 5 折)
2. 上下文、输出上限与模态
Limits- 最大输入上下文窗口
- 256,000 tokens (256K)
- 单次最大输出上限
- 131,000 tokens
- 支持输入模态
- Text + Image + Video
- 支持输出模态
- Text
- 中国大陆网络直连
- ✅ 国内极速直连 + 人民币结算
- 分发与部署形态
- 开源权重 + 托管云 API
3. 官方 Token 单价与缓存阶梯
CNY / 1M- 标准输入单价 (每百万)
- ¥ 0.8
- Prompt 缓存命中输入
- ¥ 0.23 -71%
- 标准输出单价 (每百万)
- ¥ 2.8
- 长上下文阶梯与计费备注
- 智谱 BigModel:¥0.8/M 输入跑百万上下文多模态
🏆 GLM-5.3-Flash (320B-A18B MoE) 官方基准评测成绩单
摘录自官方 System Card / Model Card 与权威公开横评表
研究生级物理、化学与生物高难防搜索推理选择题
「人类最后的考试」开启检索与代码工具辅助得分
Terminal-Bench 2.1 终端操作评测,测试 AI 智能体通过命令行独立完成代码编译、服务搭建与排错的端到端表现。
在无外网隔离容器中独立修复真实软件工程缺陷的智能体评测基准(DeepSWE)。
🎛️ 官方调用采样与思考参数指南
API / 推理引擎调用时的最佳超参数与约束说明
💡 支持 reasoning_effort=low/high/max 三档思考预算;多轮对话建议显式传 clear_thinking=true
📊 GLM-5.3-Flash (320B-A18B MoE) 全量评测成绩与维度排名
共 15 项公开评测 · 排名为在本站 154 款有评测数据模型中的名次 · 数据同步于 2026-11-20
💻 代码工程 3 项
🤖 Agent 与工具调用 5 项
「工具十项全能」基准(Toolathlon),横跨 10 类真实业务场景全面检验智能体的多工具选择、编排顺序与容错执行能力。
源自真实企业办公流的专业文档分析、电子表格计算与跨源商业信息综合问答基准。
评估 AI 智能体在法律、金融、咨询等高经济价值真实知识工作中的表现(以 Elo 等级分呈现)。
真实工作流自动化基准,测试 AI 智能体编排多种工具自动完成跨应用日常办公任务的成功率。
「智能体最后的考试」,聚焦超长周期复杂规划、持续推演与多工具协同的高难智能体终极评测。
👁️ 多模态与视觉 5 项
科学论文真实复杂图表深度推理基准(CharXiv-R),要求跨多子图、图例与数据趋势进行定量比较与综合推演。
跨多学科专业领域的视频知识理解与科学实验推理基准(MMVU)。
由专家基于科研、工程、金融、供应链与医疗真实复杂图表编写的 100 项专业图表深度解读评测。
包含 20 类无法仅靠单帧静态截图回答的动态时序理解任务的多模态视频基准。
面向基础早期视觉直觉感知与趣味图形推理的视觉基准。
来源:ZeroEval / llm-stats.com 公开评测聚合(✓ 为第三方验证,其余为厂商官方自报)。点击任一评测可查看全库排名。
⚡ GLM-5.3-Flash (320B-A18B MoE) 本地显存占用 & 实时吐字速度计算器
物理总容量 512 GB · 占用率 43.3%
MoE 架构:每步仅读取 10.91 GB 激活权重
MLA 潜在注意力显著压缩高并发 KV 占用
OLLAMA_CONTEXT_LENGTH=16384 ollama run glm5:flashMac Studio M5 Ultra 512G 可运行 GLM-5.3-Flash (320B-A18B MoE) · 硬件成本与回本参考
参考均价约 ¥74,999(折合 ¥146/GB)· 满载约 190W
📊 GLM-5.3-Flash (320B-A18B MoE) 各量化精度显存占用对照表 (16K 上下文)
| 量化格式 | 等效位数 | 纯权重体积 | KV Cache (16K) | 总显存需求 | 精度评价 |
|---|---|---|---|---|---|
| FP16 / BF16 | 16 bpw | 640 GB | 0.21 GB | 654.31 GB | 无损原精度 |
| FP8 / Q8_0 | 8.5 bpw | 340 GB | 0.21 GB | 348.31 GB | 99.9% 接近无损 |
| GGUF Q6_K | 6.56 bpw | 262.4 GB | 0.21 GB | 269.16 GB | 极高画质 · 严肃编码 |
| GGUF Q5_K_M | 5.69 bpw | 227.6 GB | 0.21 GB | 233.66 GB | 高均衡度 |
| Q4_K_M / AWQ | 4.85 bpw | 194 GB | 0.21 GB | 199.39 GB | 黄金甜点(推荐) |
| GGUF IQ4_XS | 4.25 bpw | 170 GB | 0.21 GB | 174.91 GB | 省显存优选 |
| GGUF Q3_K_M | 3.91 bpw | 156.4 GB | 0.21 GB | 161.04 GB | 轻度智商折损 |
| GGUF Q2_K | 3.15 bpw | 126 GB | 0.21 GB | 130.03 GB | 极限压缩尝鲜 |
🖥️ 主流显卡、Mac 与国产卡运行 GLM-5.3-Flash (320B-A18B MoE) (Q4_K_M) 兼容性列表
常见问题解答 (FAQ)
GLM-5.3-Flash (320B-A18B MoE) 的核心网络架构参数(层数、隐藏维度、注意力头、词表)是多少?
GLM-5.3-Flash (320B-A18B MoE) 底层架构为 Glm5NextForConditionalGeneration,共 45 层(45 层混合稀疏架构:34 层线性注意力 + 11 层 DeepSeek 稀疏注意力 (DSA) + mHC 超连接),隐藏层维度 hidden_size=4096,注意力头配置为 64 个 Query 头 / 64 个 KV 头(head_dim=0),词表大小 vocab_size=154,880,原生上下文窗口 1,048,576 tokens。
GLM-5.3-Flash (320B-A18B MoE) 本地部署至少需要多少 GB 显存?
在主流 4-bit 量化(GGUF Q4_K_M / AWQ,16K 上下文)下,GLM-5.3-Flash (320B-A18B MoE) 共需约 199.39 GB 显存(含权重 194 GB + KV 缓存 0.21 GB + 系统开销 5.18 GB)。无损 FP16/BF16 则需约 654.31 GB。
GLM-5.3-Flash (320B-A18B MoE) 官方推荐的采样参数(Temperature / Top-P)是多少?
依据官方 generation_config.json 与最佳实践,在「评测与深度智能体模式 (reasoning_effort="max")」下建议设置 temperature=1、top_p=0.95。注意:支持 reasoning_effort=low/high/max 三档思考预算;多轮对话建议显式传 clear_thinking=true