此模型已弃用。我们仍会测试其性能，但频率降低：每 18 小时一次，而非每 6 小时一次。

Meta 已推出更新版本 Llama 3.1 Instruct 8B。我们建议考虑使用该版本。

所有发布•

Llama 3 Instruct 8B：智能、性能与价格分析

可用服务商

智能Updated

无

Artificial Analysis Intelligence Index

性能

首个答案 Token 延迟 0.48秒输出速度 62 tok/s

无

每个 Intelligence Index 任务耗时（分钟）

成本

输入 $0.045输出 $0.14

无

Intelligence Index 每项任务的成本

冗长度

无

Intelligence Index 输出 token 数

Llama 3 Instruct 8B支持文本输入，可输出文本，上下文窗口为 8k 个 token，知识截止至 2023年3月。

Llama 3 Instruct 8B 每 100 万输入 token 的价格为 $0.045（很有竞争力，中位数：$0.13），每 100 万输出 token 的价格为 $0.14（很有竞争力，中位数：$0.25）。

推理	否
输入模态	支持：文本
输出模态	支持：文本
知识截止日期	2023年3月1日
上下文窗口	8k 约 12 页 A4 纸（12 号 Arial 字体）
总参数量	8B
许可证	META LLAMA 3 COMMUNITY LICENSE AGREEMENT
模型权重	Hugging Face

指标与同类别模型进行比较：

非推理模型 → 仅与其他非推理模型比较
推理模型 → 同时与推理和非推理模型比较
开放权重模型 → 仅与规模类别相同的其他开放权重模型比较：

微型：≤4B 个参数
小型：4B–40B 个参数
中型：40B–150B 个参数
大型：>150B 个参数

专有模型 → 与价格区间相同的专有模型和开放权重模型比较，采用输入/输出价格 3:1 的混合比例：

每 100 万 token <$0.15
每 100 万 token $0.15–$1
每 100 万 token >$1

Updated

智能

Artificial Analysis Intelligence Index · Higher is better

No publicly available API

每任务耗时

Inference time (minutes) per Intelligence Index task · Lower is better

No publicly available API

每任务成本

Weighted average cost (USD) per Intelligence Index task · Lower is better

No publicly available API

智能Updated

Artificial Analysis Intelligence Index

Artificial Analysis Intelligence Index v5.0.1 incorporates 9 evaluations: AA-Briefcase v1.1, AutomationBench-AA, Terminal-Bench 4.0, FrontierCode-AA 2.0, AA-Omniscience v1.1, GDP.pdf, HLE-Diamond, CritPt v2 (Hard Subset), and Terminal-Bench-Science 0.1

Artificial Analysis Intelligence Index v5.0.1 includes: AA-Briefcase v1.1, AutomationBench-AA, Terminal-Bench 4.0, FrontierCode-AA 2.0, AA-Omniscience v1.1, GDP.pdf, HLE-Diamond, CritPt v2 (Hard Subset), Terminal-Bench-Science 0.1. See Intelligence Index methodology for further details, including a breakdown of each evaluation and how we run them.

Artificial Analysis Intelligence Index：开放权重与专有模型

Indicates whether the model weights are available. Models are labelled as 'Commercial Use Restricted' if commercial use is limited by conditions, and as 'Non-commercial' if the license prohibits commercial use.

Intelligence Index 与每项任务的成本

Artificial Analysis Intelligence Index · Weighted average cost (USD) per Artificial Analysis Intelligence Index task

Most attractive quadrant

Weighted average cost per Intelligence Index task. Each evaluation’s cost is calculated from input, cache hit, cache write, reasoning, and answer token prices, divided by task count, and weighted by its Intelligence Index weight.

Openness Index

Artificial Analysis Openness Index：得分

Openness Index 以 0 至 100 的标准化评分衡量模型的开放程度（分数越高，越开放）

成本

每项 Intelligence Index 任务的成本

Weighted average cost (USD) per Intelligence Index task · Segmented by token type · Lower is better

运行 Artificial Analysis Intelligence Index 的成本

Cost (USD) to run all evaluations in the Artificial Analysis Intelligence Index

The cost to run the evaluations in the Artificial Analysis Intelligence Index, calculated using the model's input, cache hit, cache write, reasoning, and answer token prices and the number of tokens used across evaluations (excluding repeats).

价格：缓存命中、输入和输出

Price (USD per M Tokens)

Price per token for cached prompts (previously processed), typically offering a significant discount compared to regular input price, represented as USD per million tokens. The values shown here are the cache hit price; cache write and cache storage are billed separately and vary by provider — see "Cache pricing by provider" for detail.

性能

按每任务耗时（分钟）、输出速度（每秒 token 数）、首个答案 Token 延迟和首 Token 延迟（秒）衡量

Intelligence Index 每项任务耗时

Output tokens divided by end-to-end output speed (minutes per Intelligence Index task) · Speed at the model's own endpoint or the median across providers · Lower is better

The weighted average time (minutes) per Artificial Analysis Intelligence Index task: output tokens per task divided by output speed, weighted by each benchmark's weight in the Intelligence Index.

Speed and latency metrics average each endpoint's runs over the past 5 days, and the error rate pools them. We run the benchmark every 6 hours, and endpoints of deprecated models every 18 hours.

输出速度

Output tokens divided by total request time, including time to first token · Higher is better

Output tokens, including reasoning tokens, received per second over a request's full duration, from sending the request to receiving the final token. The headline value averages each Performance v3 workload over the past 5 days, then averages the workloads.

首个答案 Token 延迟

收到首个答案 token 的秒数 · 包含推理模型的“思考”时间

Time to first answer token received, in seconds, after API request sent. For reasoning models, this includes the 'thinking' time of the model before providing an answer. For models which do not support streaming, this represents time to receive the completion.

上下文窗口

Context window: tokens limit · Higher is better

Larger context windows are relevant to RAG (Retrieval Augmented Generation) LLM workflows which typically involve reasoning and information retrieval of large amounts of data.

Maximum number of combined input & output tokens. Output tokens commonly have a significantly lower limit (varied by model).

模型规模（仅开放权重模型）

模型规模：总参数量与活跃参数量

Comparison between total model parameters and parameters active during inference (billions)

The total number of trainable weights and biases in the model, expressed in billions. These parameters are learned during training and determine the model's ability to process and generate responses.

The number of parameters actually executed during each inference forward pass, expressed in billions. For Mixture of Experts (MoE) models, a routing mechanism selects a subset of experts per token, resulting in fewer active than total parameters. Dense models use all parameters, so active equals total.

Meta 的更多发布

常见问题

关于 Llama 3 Instruct 8B 的常见问题

Llama 3 Instruct 8B 发布于 2024年4月18日。

Llama 3 Instruct 8B 由 Meta 开发。

Llama 3 Instruct 8B 的首个答案 Token 延迟为 0.48 秒（基于提供该模型的各服务商中位数），与其他规模相近的开放权重非推理模型相比非常有竞争力（中位数：2.43 秒）。

Llama 3 Instruct 8B 每 100 万输入 token 的价格为 $0.045（非常有竞争力，中位数：$0.13），每 100 万输出 token 的价格为 $0.14（非常有竞争力，中位数：$0.25）；基于提供该模型的各服务商中位数。

Llama 3 Instruct 8B 每 100 万输入 token 的价格为 $0.045，每 100 万输出 token 的价格为 $0.14（基于提供该模型的各服务商中位数）。按缓存命中/输入/输出为 7:2:1 的比例计算，混合价格为每 100 万 token $0.055。价格可能因服务商而异。比较服务商价格

否，Llama 3 Instruct 8B 不是推理模型。它不进行扩展的思维链推理，而是直接作答。

Llama 3 Instruct 8B 支持文本输入。

Llama 3 Instruct 8B 支持文本输出。

否，Llama 3 Instruct 8B 不支持图像输入，只能处理文本。

否，Llama 3 Instruct 8B 不是多模态模型，仅支持文本输入。

Llama 3 Instruct 8B 的上下文窗口为 8k 个 token。这决定了模型在单次请求中可以处理多少文本和对话历史。

是，Llama 3 Instruct 8B 是开放权重模型，其模型权重已公开，可供下载并自行托管。

Llama 3 Instruct 8B 有 8B 参数。

Llama 3 Instruct 8B 基于 META LLAMA 3 COMMUNITY LICENSE AGREEMENT 许可证发布，允许商业使用但有限制。查看许可证

Llama 3 Instruct 8B 的知识截止日期为 2023年3月，模型训练数据包含截至该日期的信息。

是，可通过 4 家服务商的 API 使用 Llama 3 Instruct 8B。比较 API 服务商

可通过 4 家 API 服务商使用 Llama 3 Instruct 8B。比较服务商

Llama 3 Instruct 8B：智能、性能与价格分析

模型摘要

智能Updated

性能

成本

冗长度

技术规格

此类别中有 75 个模型

智能

每任务耗时

每任务成本

智能Updated

Artificial Analysis Intelligence Index

Artificial Analysis Intelligence Index

Artificial Analysis Intelligence Index：开放权重与专有模型

Artificial Analysis Intelligence Index

Open Weights

Intelligence Index 与每项任务的成本

Cost per Intelligence Index Task

Artificial Analysis Intelligence Index

Openness Index

Artificial Analysis Openness Index：得分

成本

每项 Intelligence Index 任务的成本

Cost per Intelligence Index Task

运行 Artificial Analysis Intelligence Index 的成本

Cost to Run Artificial Analysis Intelligence Index

价格：缓存命中、输入和输出

Cache Hit

性能

Intelligence Index 每项任务耗时

Time per Intelligence Index Task

Time Period

输出速度

End-to-End Output Speed

首个答案 Token 延迟

Time to First Answer Token

上下文窗口

上下文窗口

Context Window for RAG

Context Window

模型规模（仅开放权重模型）

模型规模：总参数量与活跃参数量

Total Parameters

Active Parameters at Inference Time

更多详情

Meta 的更多发布

常见问题

Llama 3 Instruct 8B 何时发布？

谁开发了 Llama 3 Instruct 8B？

Llama 3 Instruct 8B 的延迟是多少？

Llama 3 Instruct 8B 的费用是多少？

Llama 3 Instruct 8B API 的价格是多少？

Llama 3 Instruct 8B 是推理模型吗？

Llama 3 Instruct 8B 支持哪些输入模态？

Llama 3 Instruct 8B 支持哪些输出模态？

Llama 3 Instruct 8B 能处理图像吗？

Llama 3 Instruct 8B 是多模态模型吗？

Llama 3 Instruct 8B 的上下文窗口有多大？

Llama 3 Instruct 8B 是开放权重模型吗？

Llama 3 Instruct 8B 有多少个参数？

Llama 3 Instruct 8B 使用什么许可证？

Llama 3 Instruct 8B 的知识截止日期是什么时候？

可以通过 API 使用 Llama 3 Instruct 8B 吗？

可以在哪里使用 Llama 3 Instruct 8B？