ai.canshu.com
EN
显存计算器 配机与回本向导 API 价格 同屏 PK 对比 模型库 排行榜 显卡库

全局搜索模型、显卡与工具

↑↓ 移动 · Enter 直达 · ★ 优先展示我的关注 ai.canshu.com
Zhipu AI
开源权重 Zhipu AI · MoE 320B / A18B · Text+Image+Video · BF16

GLM-5.3-Flash (320B-A18B MoE) 模型架构参数、评测与显存全表

智谱 MIT 开源多模态与 Agent 主力 MoE(总参 320B,激活 18B),适配大统一内存 Mac Studio 与企业多卡国产算力集群。

🧬 GLM-5.3-Flash (320B-A18B MoE) 底层网络与张量参数总表 (Model Overview & config.json)

全部字段同步自官方 HuggingFace 仓库 (zai-org/GLM-5.3-Flash) 的 config.json 与技术报告 · 核验日期 2026-11-20

HF Class: Glm5NextForConditionalGeneration

1. 骨干网络与维度参数

glm5_next
总参数量 / 单步激活
320B / 18B
Hidden Size (d_model)
4,096
FFN Intermediate Size
12,288
MoE 专家中间层维度
2,048
MoE 专家配置
288 路由 · 激活8 + 1 共享
激活函数 / RMSNorm
SiLU (SwiGLU) · ε=1e-5
原生权重精度
BF16

2. 注意力机制与混合层拓扑

MLA
Transformer 总层数
45 层 (11 层全局 KV)
网络层排布 (Hidden Layout)
45 层混合稀疏架构:34 层线性注意力 + 11 层 DeepSeek 稀疏注意力 (DSA) + mHC 超连接
注意力头 (Q / KV)
64 Q / 64 KV
Head Dimension
0
线性注意力 / KV 压缩机制
34 层线性注意力无 KV 增长 + 11 层 DSA 低秩压缩 (kv_lora_rank=512)
视觉编码器 / MTP 头
ViT 24L · MTP 1L

3. 上下文、位置编码与词表

Tokenizer
原生上下文长度
1,048,576 tokens
旋转位置编码 (RoPE)
Hybrid DSA Position Encoding (原生 1,048,576 / 1M Context)
词表大小 (vocab_size)
154,880 (独立输出头)
特殊控制 Token ID
EOS: [154820,154827,154829] · PAD: 154820

📋 GLM-5.3-Flash (320B-A18B MoE) 官方 API 技术规格与计费参数总表

核验自 Zhipu AI 官方开发者文档与公开定价页(核验日期 2026-11-20)

API Model ID: glm-5.3-flash

1. 模型标识与能力开关

API Spec
官方调用 Model ID
glm-5.3-flash
版本发布日期
2026-08-26
权重授权形态
开源权重 (云端 API 规格)
原生深度推理思考
✅ 支持 (可调思考预算)
Function Calling & JSON Schema
✅ 原生支持
Batch API 异步批处理
✅ 支持 (通常享 5 折)

2. 上下文、输出上限与模态

Limits
最大输入上下文窗口
256,000 tokens (256K)
单次最大输出上限
131,000 tokens
支持输入模态
Text + Image + Video
支持输出模态
Text
中国大陆网络直连
✅ 国内极速直连 + 人民币结算
分发与部署形态
开源权重 + 托管云 API

3. 官方 Token 单价与缓存阶梯

CNY / 1M
标准输入单价 (每百万)
¥ 0.8
Prompt 缓存命中输入
¥ 0.23 -71%
标准输出单价 (每百万)
¥ 2.8
长上下文阶梯与计费备注
智谱 BigModel:¥0.8/M 输入跑百万上下文多模态

🏆 GLM-5.3-Flash (320B-A18B MoE) 官方基准评测成绩单

摘录自官方 System Card / Model Card 与权威公开横评表

Arena Elo ~1474 AA Index 47
🧠 数学与深度推理 Max
GPQA Diamond 91.2 %

研究生级物理、化学与生物高难防搜索推理选择题

🧠 数学与深度推理 Max
HLE (w/ Tools) 55.3 %

「人类最后的考试」开启检索与代码工具辅助得分

🤖 Agent 工具调用 Max
Terminal-Bench 2.1 84.3 %

Terminal-Bench 2.1 终端操作评测,测试 AI 智能体通过命令行独立完成代码编译、服务搭建与排错的端到端表现。

💻 代码工程 Max
DeepSWE 63.4 %

在无外网隔离容器中独立修复真实软件工程缺陷的智能体评测基准(DeepSWE)。

🎛️ 官方调用采样与思考参数指南

API / 推理引擎调用时的最佳超参数与约束说明

评测与深度智能体模式 (reasoning_effort="max")
temperature=1 top_p=0.95 max_tokens=65,536

💡 支持 reasoning_effort=low/high/max 三档思考预算;多轮对话建议显式传 clear_thinking=true

📊 GLM-5.3-Flash (320B-A18B MoE) 全量评测成绩与维度排名

共 15 项公开评测 · 排名为在本站 154 款有评测数据模型中的名次 · 数据同步于 2026-11-20

⚔️ 和其他模型逐项比分

来源:ZeroEval / llm-stats.com 公开评测聚合(✓ 为第三方验证,其余为厂商官方自报)。点击任一评测可查看全库排名。

⚡ GLM-5.3-Flash (320B-A18B MoE) 本地显存占用 & 实时吐字速度计算器

并发请求数 (Batch):
MoE 320B / A18B·45L (d=4096)·64Q/8KV·Ctx 256K·Text+Image+Video
该设备兼容榜 →
512 GB 统一内存·1200 GB/s·安全可用上限 460.8 GB
流畅可跑199.39 / 460.8 GB~71.9 tok/s
3. 权重量化精度
4. 单并发上下文窗口16K (16,384 tok)
参数核验:2026-11-20·带宽与算力屋顶模型估算(当前并发=1)
流畅可跑
199.39/ 460.8 GB 可用显存

物理总容量 512 GB · 占用率 43.3%

理论带宽解码速度 (Decode)
~71.9tokens/s

MoE 架构:每步仅读取 10.91 GB 激活权重

当前并发 (1x) 最大可开窗口
256K/ 256K

MLA 潜在注意力显著压缩高并发 KV 占用

模型权重: 194 GBKV Cache (1×16K): 0.21 GB框架开销: 5.18 GB
统一内存默认预留约 10% 给操作系统
🚀 闪电秒出(长推理/写代码极爽)生成 500 Token 回答约需 7 秒
参考启动命令:
OLLAMA_CONTEXT_LENGTH=16384 ollama run glm5:flash

Mac Studio M5 Ultra 512G 可运行 GLM-5.3-Flash (320B-A18B MoE) · 硬件成本与回本参考

参考均价约 ¥74,999(折合 ¥146/GB)· 满载约 190W

📊 GLM-5.3-Flash (320B-A18B MoE) 各量化精度显存占用对照表 (16K 上下文)

量化格式 等效位数 纯权重体积 KV Cache (16K) 总显存需求 精度评价
FP16 / BF16 16 bpw 640 GB 0.21 GB 654.31 GB 无损原精度
FP8 / Q8_0 8.5 bpw 340 GB 0.21 GB 348.31 GB 99.9% 接近无损
GGUF Q6_K 6.56 bpw 262.4 GB 0.21 GB 269.16 GB 极高画质 · 严肃编码
GGUF Q5_K_M 5.69 bpw 227.6 GB 0.21 GB 233.66 GB 高均衡度
Q4_K_M / AWQ 4.85 bpw 194 GB 0.21 GB 199.39 GB 黄金甜点(推荐)
GGUF IQ4_XS 4.25 bpw 170 GB 0.21 GB 174.91 GB 省显存优选
GGUF Q3_K_M 3.91 bpw 156.4 GB 0.21 GB 161.04 GB 轻度智商折损
GGUF Q2_K 3.15 bpw 126 GB 0.21 GB 130.03 GB 极限压缩尝鲜

🖥️ 主流显卡、Mac 与国产卡运行 GLM-5.3-Flash (320B-A18B MoE) (Q4_K_M) 兼容性列表

常见问题解答 (FAQ)

GLM-5.3-Flash (320B-A18B MoE) 的核心网络架构参数(层数、隐藏维度、注意力头、词表)是多少?

GLM-5.3-Flash (320B-A18B MoE) 底层架构为 Glm5NextForConditionalGeneration,共 45 层(45 层混合稀疏架构:34 层线性注意力 + 11 层 DeepSeek 稀疏注意力 (DSA) + mHC 超连接),隐藏层维度 hidden_size=4096,注意力头配置为 64 个 Query 头 / 64 个 KV 头(head_dim=0),词表大小 vocab_size=154,880,原生上下文窗口 1,048,576 tokens。

GLM-5.3-Flash (320B-A18B MoE) 本地部署至少需要多少 GB 显存?

在主流 4-bit 量化(GGUF Q4_K_M / AWQ,16K 上下文)下,GLM-5.3-Flash (320B-A18B MoE) 共需约 199.39 GB 显存(含权重 194 GB + KV 缓存 0.21 GB + 系统开销 5.18 GB)。无损 FP16/BF16 则需约 654.31 GB。

GLM-5.3-Flash (320B-A18B MoE) 官方推荐的采样参数(Temperature / Top-P)是多少?

依据官方 generation_config.json 与最佳实践,在「评测与深度智能体模式 (reasoning_effort="max")」下建议设置 temperature=1、top_p=0.95。注意:支持 reasoning_effort=low/high/max 三档思考预算;多轮对话建议显式传 clear_thinking=true