Mistral Large 4 (1T-A52B) 模型架构参数、评测与显存全表
Mistral 迄今最强万亿级原生多模态开源模型(1T 总参 / 52B 激活,72 层 128 专家),支持 104.8 万上下文与 26.2 万输出。
🧬 Mistral Large 4 (1T-A52B) 底层网络与张量参数总表 (Model Overview & config.json)
全部字段同步自官方 HuggingFace 仓库 (mistralai/Mistral-Large-4-1T-A52B) 的 config.json 与技术报告 · 核验日期 2026-11-20
1. 骨干网络与维度参数
mistral_large4- 总参数量 / 单步激活
- 1T / 52B
- Hidden Size (d_model)
- 6,144
- FFN Intermediate Size
- 24,576
- MoE 专家中间层维度
- 6,144
- MoE 专家配置
- 128 路由 · 激活4 + 1 共享
- 激活函数 / RMSNorm
- SiLU (SwiGLU) · ε=0.00001
- 原生权重精度
- BF16 / FP8
2. 注意力机制与混合层拓扑
MLA- Transformer 总层数
- 72 层
- 网络层排布 (Hidden Layout)
- 72 层稀疏 MoE 架构(128 路由专家,单步激活 4 个)
- 注意力头 (Q / KV)
- 64 Q / 64 KV
- Head Dimension
- 64
- 视觉编码器 / MTP 头
- ViT 30L
3. 上下文、位置编码与词表
Tokenizer- 原生上下文长度
- 1,048,576 tokens
- 旋转位置编码 (RoPE)
- RoPE (原生 1,048,576 Context)
- 词表大小 (vocab_size)
- 204,800 (独立输出头)
📋 Mistral Large 4 (1T-A52B) 官方 API 技术规格与计费参数总表
核验自 Mistral AI 官方开发者文档与公开定价页(核验日期 2026-11-20)
1. 模型标识与能力开关
API Spec- 官方调用 Model ID
- mistral-large-4
- 版本发布日期
- 2026-10-06
- 权重授权形态
- 开源权重 (云端 API 规格)
- 原生深度推理思考
- ✅ 支持 (可调思考预算)
- Function Calling & JSON Schema
- ✅ 原生支持
- Batch API 异步批处理
- ✅ 支持 (通常享 5 折)
2. 上下文、输出上限与模态
Limits- 最大输入上下文窗口
- 1,024,000 tokens (1024K)
- 单次最大输出上限
- 262,000 tokens
- 支持输入模态
- Text + Image + Video
- 支持输出模态
- Text
- 中国大陆网络直连
- 🌐 需海外网络或 OpenRouter 聚合
- 分发与部署形态
- 开源权重 + 托管云 API
3. 官方 Token 单价与缓存阶梯
USD / 1M- 标准输入单价 (每百万)
- $ 0.7
- Prompt 缓存命中输入
- $ 0.07 -90%
- 标准输出单价 (每百万)
- $ 2.1
- 长上下文阶梯与计费备注
- Mistral AI:Mistral 官方 La Plateforme,含免费实验开发层
🎛️ 官方调用采样与思考参数指南
API / 推理引擎调用时的最佳超参数与约束说明
📊 Mistral Large 4 (1T-A52B) 全量评测成绩与维度排名
共 14 项公开评测 · 排名为在本站 154 款有评测数据模型中的名次 · 数据同步于 2026-11-20
💻 代码工程 7 项
由专业级网络安全夺旗赛(CTF)真题组成的智能体无引导端到端攻防解题成功率评测。
由自然科学家编制的科研编程基准,将物理、化学、生物、数学等 16 个学科的 80 个真实科研计算问题拆解为 338 个编程子任务。
受控靶场环境下的网络安全智能体评测,考察代码安全审计、漏洞定位与攻防分析能力。
基于隔离容器环境与 mini-swe-agent 框架评测的软件工程智能体实战基准(v1.1)。
真实大型代码库问答评测,考察模型跨整个代码仓库理解模块结构、调用链路与设计意图的能力。
第 4 代真实容器终端智能体评测,涵盖 66 项命令行工程与科学计算实战任务,考察编译、排障、环境配置与端到端交付能力。
Cognition 推出的端到端编码智能体质量基准(2.0),不仅检验单测通过率,还评估代码变更是否达到开源维护者可直接合并(Mergeable)的工程标准。
🤖 Agent 与工具调用 5 项
OpenAI 发布的深度联网搜索基准,含 1,266 道需要智能体在互联网上反复检索、交叉核实才能找到隐蔽线索的高难多跳检索题。
真实工作流自动化基准,测试 AI 智能体编排多种工具自动完成跨应用日常办公任务的成功率。
Vals AI 发布的金融分析师智能体基准(v2),考察检索真实上市公司财报、执行多步财务建模计算与投资分析的能力。
Artificial Analysis 针对真实职场专业知识工作交付质量的 Elo 对战评测。
Harvey 专业复杂法律实务工作流智能体全通过率评测。
来源:ZeroEval / llm-stats.com 公开评测聚合(✓ 为第三方验证,其余为厂商官方自报)。点击任一评测可查看全库排名。
⚡ Mistral Large 4 (1T-A52B) 本地显存占用 & 实时吐字速度计算器
物理总容量 96 GB · 占用率 660.1%
超出安全可用上限 526.95 GB
MLA 潜在注意力显著压缩高并发 KV 占用
OLLAMA_CONTEXT_LENGTH=16384 ollama run mistral-large-4-1t本地显存不足?运行 Mistral Large 4 (1T-A52B) 的替代方案
可按小时租用预装好 vLLM / LLaMA-Factory 的大显存云显卡,或算一下直接调 API 对比买卡的 12 个月回本线。
📊 Mistral Large 4 (1T-A52B) 各量化精度显存占用对照表 (16K 上下文)
| 量化格式 | 等效位数 | 纯权重体积 | KV Cache (16K) | 总显存需求 | 精度评价 |
|---|---|---|---|---|---|
| FP16 / BF16 | 16 bpw | 2000 GB | 1.36 GB | 2042.66 GB | 无损原精度 |
| FP8 / Q8_0 | 8.5 bpw | 1062.5 GB | 1.36 GB | 1086.41 GB | 99.9% 接近无损 |
| GGUF Q6_K | 6.56 bpw | 820 GB | 1.36 GB | 839.06 GB | 极高画质 · 严肃编码 |
| GGUF Q5_K_M | 5.69 bpw | 711.25 GB | 1.36 GB | 728.13 GB | 高均衡度 |
| Q4_K_M / AWQ | 4.85 bpw | 606.25 GB | 1.36 GB | 621.03 GB | 黄金甜点(推荐) |
| GGUF IQ4_XS | 4.25 bpw | 531.25 GB | 1.36 GB | 544.53 GB | 省显存优选 |
| GGUF Q3_K_M | 3.91 bpw | 488.75 GB | 1.36 GB | 501.18 GB | 轻度智商折损 |
| GGUF Q2_K | 3.15 bpw | 393.75 GB | 1.36 GB | 404.28 GB | 极限压缩尝鲜 |
🖥️ 主流显卡、Mac 与国产卡运行 Mistral Large 4 (1T-A52B) (Q4_K_M) 兼容性列表
常见问题解答 (FAQ)
Mistral Large 4 (1T-A52B) 的核心网络架构参数(层数、隐藏维度、注意力头、词表)是多少?
Mistral Large 4 (1T-A52B) 底层架构为 MistralLarge4ForConditionalGeneration,共 72 层(72 层稀疏 MoE 架构(128 路由专家,单步激活 4 个)),隐藏层维度 hidden_size=6144,注意力头配置为 64 个 Query 头 / 64 个 KV 头(head_dim=64),词表大小 vocab_size=204,800,原生上下文窗口 1,048,576 tokens。
Mistral Large 4 (1T-A52B) 本地部署至少需要多少 GB 显存?
在主流 4-bit 量化(GGUF Q4_K_M / AWQ,16K 上下文)下,Mistral Large 4 (1T-A52B) 共需约 621.03 GB 显存(含权重 606.25 GB + KV 缓存 1.36 GB + 系统开销 13.43 GB)。无损 FP16/BF16 则需约 2042.66 GB。
Mistral Large 4 (1T-A52B) 官方推荐的采样参数(Temperature / Top-P)是多少?
依据官方 generation_config.json 与最佳实践,在「官方默认推理采样配置」下建议设置 temperature=0.7、top_p=0.95。