Llama-3.1-70B-Instruct 官方规格参数、API 定价与评测档案
Meta 发布的 Llama-3.1-70B-Instruct(官方 API ID:llama-3.1-70b-instruct,发布于 2024-07-23),支持 131,072 上下文窗口与 8,192 单次最大输出,模态:Text。
📋 Llama-3.1-70B-Instruct 官方 API 技术规格与计费参数总表
核验自 Meta 官方开发者文档与公开定价页(核验日期 2026-11-20)
1. 模型标识与能力开关
API Spec- 官方调用 Model ID
- llama-3.1-70b-instruct
- 版本发布日期
- 2024-07-23
- 权重授权形态
- 开源权重 (云端 API 规格)
- 原生深度推理思考
- —
- Function Calling & JSON Schema
- 部分支持
- Batch API 异步批处理
- ✅ 支持 (通常享 5 折)
2. 上下文、输出上限与模态
Limits- 最大输入上下文窗口
- 131,000 tokens (131K)
- 单次最大输出上限
- 8,192 tokens
- 支持输入模态
- Text
- 支持输出模态
- Text
- 中国大陆网络直连
- 🌐 需海外网络或 OpenRouter 聚合
- 分发与部署形态
- 开源权重 + 托管云 API
3. 官方 Token 单价与缓存阶梯
USD / 1M- 标准输入单价 (每百万)
- $ 0.72
- Prompt 缓存命中输入
- $ 0.144 -80%
- 标准输出单价 (每百万)
- $ 0.72
🎛️ 官方调用采样与思考参数指南
API / 推理引擎调用时的最佳超参数与约束说明
📊 Llama-3.1-70B-Instruct 全量评测成绩与维度排名
共 16 项公开评测 · 排名为在本站 154 款有评测数据模型中的名次 · 数据同步于 2026-11-20
💻 代码工程 2 项
🤖 Agent 与工具调用 3 项
📐 数学 6 项
采用思维链(CoT)评测的 10 语种跨语言数学应用题推理基准(MGSM)。
采用思维链(Chain-of-Thought)逐步推理模式评测的 57 学科 MMLU 综合知识基准。
大规模多任务语言理解基准,覆盖 STEM 理工、人文、社科及医学法律等 57 个学科的综合知识测试。
段落离散推理阅读理解基准,要求模型在阅读长段落后完成数值加减、排序、计数与指代消解等离散运算。
采用思维链(CoT)分步求解的 12,500 道竞赛数学(MATH)评测。
MMLU 进阶推理增强版,将选项从 4 个扩充至 10 个并剔除简单记忆题,重点考察跨学科复杂计算与多步逻辑推理。
🧠 推理与科学 3 项
来源:ZeroEval / llm-stats.com 公开评测聚合(✓ 为第三方验证,其余为厂商官方自报)。点击任一评测可查看全库排名。
想私有化部署?能力最接近 Llama-3.1-70B-Instruct 的开源权重平替模型
以下开源模型提供完整 HuggingFace 权重与 config.json,支持本地 GPU / Mac / 国产算力卡私有部署
常见问题解答 (FAQ)
Llama-3.1-70B-Instruct 是开源模型还是闭源商业模型?能本地部署吗?
Llama-3.1-70B-Instruct 是由 Meta 研发的闭源商业大模型(官方调用 ID 为 llama-3.1-70b-instruct),未公开模型权重与底层网络层数,因此不支持本地显卡私有部署,需通过官方 API 或云端网关按 Token 计费调用。如需私有化部署,可参考本页底部的同档位开源平替模型。
Llama-3.1-70B-Instruct 的最大上下文窗口、单次最大输出和 API 价格是多少?
Llama-3.1-70B-Instruct 支持最高 131K 上下文输入与 8,192 tokens 单次输出,支持输入模态包括 Text。官方标准费率为每百万输入 $0.72、缓存命中输入 $0.144、每百万输出 $0.72。