Qwen3.8-2.4T-A95B (MoE) 模型架构参数、评测与显存全表
千问 3.8 超大规模开源基座(与百炼 Qwen3.8-Max 同源),总参数高达 2.44 万亿、单步激活 95B,92 层 512 专家混合架构。
🧬 Qwen3.8-2.4T-A95B (MoE) 底层网络与张量参数总表 (Model Overview & config.json)
全部字段同步自官方 HuggingFace 仓库 (Qwen/Qwen3.8-2.4T-A95B) 的 config.json 与技术报告 · 核验日期 2026-11-20
1. 骨干网络与维度参数
qwen3_5_moe_text- 总参数量 / 单步激活
- 2.446T / 95B
- Hidden Size (d_model)
- 8,192
- MoE 专家中间层维度
- 2,048
- MoE 专家配置
- 512 路由 · 激活10
- 激活函数 / RMSNorm
- SiLU (SwiGLU) · ε=0.000001
- 原生权重精度
- BF16 / FP8
2. 注意力机制与混合层拓扑
HYBRID- Transformer 总层数
- 92 层 (23 层全局 KV)
- 网络层排布 (Hidden Layout)
- 92 层稀疏 MoE 架构(512 路由专家,单步激活 10 个)
- 注意力头 (Q / KV)
- 64 Q / 4 KV (16:1 GQA)
- Head Dimension
- 256
3. 上下文、位置编码与词表
Tokenizer- 原生上下文长度
- 262,144 tokens
- 旋转位置编码 (RoPE)
- RoPE (原生 262,144 Context)
- 词表大小 (vocab_size)
- 248,320 (独立输出头)
📋 Qwen3.8-2.4T-A95B (MoE) 官方 API 技术规格与计费参数总表
核验自 Alibaba Qwen 官方开发者文档与公开定价页(核验日期 2026-11-20)
1. 模型标识与能力开关
API Spec- 官方调用 Model ID
- qwen3.8-max
- 版本发布日期
- 2026-08-03
- 权重授权形态
- 开源权重 (云端 API 规格)
- 原生深度推理思考
- ✅ 支持 (可调思考预算)
- Function Calling & JSON Schema
- ✅ 原生支持
- Batch API 异步批处理
- ✅ 支持 (通常享 5 折)
2. 上下文、输出上限与模态
Limits- 最大输入上下文窗口
- 256,000 tokens (256K)
- 单次最大输出上限
- 131,000 tokens
- 支持输入模态
- Text
- 支持输出模态
- Text
- 中国大陆网络直连
- ✅ 国内极速直连 + 人民币结算
- 分发与部署形态
- 开源权重 + 托管云 API
3. 官方 Token 单价与缓存阶梯
CNY / 1M- 标准输入单价 (每百万)
- ¥ 12
- Prompt 缓存命中输入
- ¥ 1.5 -88%
- 标准输出单价 (每百万)
- ¥ 36
- 长上下文阶梯与计费备注
- 阿里云百炼:百炼千问 3.8 旗舰模型,支持百万上下文
🎛️ 官方调用采样与思考参数指南
API / 推理引擎调用时的最佳超参数与约束说明
⚡ Qwen3.8-2.4T-A95B (MoE) 本地显存占用 & 实时吐字速度计算器
物理总容量 96 GB · 占用率 1610.5%
超出安全可用上限 1421.07 GB
高并发下开启 Q8/Q4 KV 量化可成倍提升并发上限
OLLAMA_CONTEXT_LENGTH=16384 ollama run qwen3-8-2-4t-a95b本地显存不足?运行 Qwen3.8-2.4T-A95B (MoE) 的替代方案
可按小时租用预装好 vLLM / LLaMA-Factory 的大显存云显卡,或算一下直接调 API 对比买卡的 12 个月回本线。
📊 Qwen3.8-2.4T-A95B (MoE) 各量化精度显存占用对照表 (16K 上下文)
| 量化格式 | 等效位数 | 纯权重体积 | KV Cache (16K) | 总显存需求 | 精度评价 |
|---|---|---|---|---|---|
| FP16 / BF16 | 16 bpw | 4892 GB | 2.15 GB | 4992.44 GB | 无损原精度 |
| FP8 / Q8_0 | 8.5 bpw | 2598.88 GB | 2.15 GB | 2653.45 GB | 99.9% 接近无损 |
| GGUF Q6_K | 6.56 bpw | 2005.72 GB | 2.15 GB | 2048.44 GB | 极高画质 · 严肃编码 |
| GGUF Q5_K_M | 5.69 bpw | 1739.72 GB | 2.15 GB | 1777.11 GB | 高均衡度 |
| Q4_K_M / AWQ | 4.85 bpw | 1482.89 GB | 2.15 GB | 1515.15 GB | 黄金甜点(推荐) |
| GGUF IQ4_XS | 4.25 bpw | 1299.44 GB | 2.15 GB | 1328.03 GB | 省显存优选 |
| GGUF Q3_K_M | 3.91 bpw | 1195.48 GB | 2.15 GB | 1221.99 GB | 轻度智商折损 |
| GGUF Q2_K | 3.15 bpw | 963.11 GB | 2.15 GB | 984.98 GB | 极限压缩尝鲜 |
🖥️ 主流显卡、Mac 与国产卡运行 Qwen3.8-2.4T-A95B (MoE) (Q4_K_M) 兼容性列表
常见问题解答 (FAQ)
Qwen3.8-2.4T-A95B (MoE) 的核心网络架构参数(层数、隐藏维度、注意力头、词表)是多少?
Qwen3.8-2.4T-A95B (MoE) 底层架构为 Qwen3_5MoeForCausalLM,共 92 层(92 层稀疏 MoE 架构(512 路由专家,单步激活 10 个)),隐藏层维度 hidden_size=8192,注意力头配置为 64 个 Query 头 / 4 个 KV 头(head_dim=256),词表大小 vocab_size=248,320,原生上下文窗口 262,144 tokens。
Qwen3.8-2.4T-A95B (MoE) 本地部署至少需要多少 GB 显存?
在主流 4-bit 量化(GGUF Q4_K_M / AWQ,16K 上下文)下,Qwen3.8-2.4T-A95B (MoE) 共需约 1515.15 GB 显存(含权重 1482.89 GB + KV 缓存 2.15 GB + 系统开销 30.11 GB)。无损 FP16/BF16 则需约 4992.44 GB。
Qwen3.8-2.4T-A95B (MoE) 官方推荐的采样参数(Temperature / Top-P)是多少?
依据官方 generation_config.json 与最佳实践,在「官方默认推理采样配置」下建议设置 temperature=0.7、top_p=0.95。