Este modelo está obsoleto. Continuamos medindo seu desempenho, mas com menos frequência: a cada 18 horas em vez de a cada 6.

Meta lançou uma versão mais recente, Llama 3.1 Instruct 8B. Sugerimos considerá-la como alternativa.

Todos os lançamentos•

Análise de inteligência, desempenho e preço do Llama 3 Instruct 8B

Name: Inteligência
Creator: Artificial Analysis
License: https://artificialanalysis.ai/docs/legal/Terms-of-Use.pdf

Experimente

Provedores disponíveis

InteligênciaUpdated

N/D

Artificial Analysis Intelligence Index

Desempenho

Tempo até o primeiro token da resposta final 0.48sVelocidade de saída 62 tok/s

N/D

Tempo por tarefa do Intelligence Index (minutos)

Custo

Entrada $0.045Saída $0.14

N/D

Custo por tarefa do Intelligence Index

Verbosidade

N/D

Tokens de saída do Intelligence Index

Llama 3 Instruct 8B aceita entrada em texto, gera saída em texto e tem uma janela de contexto de 8k tokens, com conhecimento até março de 2023.

O preço do Llama 3 Instruct 8B é de $0.045 por 1M de tokens de entrada (preço competitivo, mediana: $0.13) e $0.14 por 1M de tokens de saída (preço competitivo, mediana: $0.25).

Raciocínio	Não
Modalidade de entrada	Compatível com: texto
Modalidade de saída	Compatível com: texto
Data-limite do conhecimento	1 de mar. de 2023
Janela de contexto	8k ~12 páginas A4 em fonte Arial tamanho 12
Parâmetros totais	8B
Licença	META LLAMA 3 COMMUNITY LICENSE AGREEMENT
Pesos do modelo	Hugging Face

As métricas são comparadas com modelos da mesma classe:

Modelos sem raciocínio → comparados apenas com outros modelos sem raciocínio
Modelos de raciocínio → comparados com modelos com e sem raciocínio
Modelos de pesos abertos → comparados apenas com outros modelos de pesos abertos da mesma classe de tamanho:

Muito pequeno: ≤4B parâmetros
Pequeno: 4B–40B parâmetros
Médio: 40B–150B parâmetros
Grande: >150B parâmetros

Modelos proprietários → comparados com modelos proprietários e de pesos abertos da mesma faixa de preço, usando uma proporção combinada de 3:1 entre os preços de entrada e saída:

<$0.15 por 1M de tokens
$0.15–$1 por 1M de tokens
>$1 por 1M de tokens

Updated

Inteligência

Artificial Analysis Intelligence Index · Higher is better

No publicly available API

Tempo por tarefa

Inference time (minutes) per Intelligence Index task · Lower is better

No publicly available API

Custo por tarefa

Weighted average cost (USD) per Intelligence Index task · Lower is better

No publicly available API

InteligênciaUpdated

Artificial Analysis Intelligence Index

Artificial Analysis Intelligence Index v5.0.1 incorporates 9 evaluations: AA-Briefcase v1.1, AutomationBench-AA, Terminal-Bench 4.0, FrontierCode-AA 2.0, AA-Omniscience v1.1, GDP.pdf, HLE-Diamond, CritPt v2 (Hard Subset), and Terminal-Bench-Science 0.1

Artificial Analysis Intelligence Index v5.0.1 includes: AA-Briefcase v1.1, AutomationBench-AA, Terminal-Bench 4.0, FrontierCode-AA 2.0, AA-Omniscience v1.1, GDP.pdf, HLE-Diamond, CritPt v2 (Hard Subset), Terminal-Bench-Science 0.1. See Intelligence Index methodology for further details, including a breakdown of each evaluation and how we run them.

Artificial Analysis Intelligence Index: pesos abertos vs. proprietários

Indicates whether the model weights are available. Models are labelled as 'Commercial Use Restricted' if commercial use is limited by conditions, and as 'Non-commercial' if the license prohibits commercial use.

Intelligence Index vs. custo por tarefa

Artificial Analysis Intelligence Index · Weighted average cost (USD) per Artificial Analysis Intelligence Index task

Most attractive quadrant

Weighted average cost per Intelligence Index task. Each evaluation’s cost is calculated from input, cache hit, cache write, reasoning, and answer token prices, divided by task count, and weighted by its Intelligence Index weight.

Openness Index

Artificial Analysis Openness Index: pontuação

O Openness Index avalia a abertura dos modelos em uma escala normalizada de 0 a 100 (quanto maior, mais aberto)

Custo

Custo por tarefa do Intelligence Index

Weighted average cost (USD) per Intelligence Index task · Segmented by token type · Lower is better

Custo de executar o Artificial Analysis Intelligence Index

Cost (USD) to run all evaluations in the Artificial Analysis Intelligence Index

The cost to run the evaluations in the Artificial Analysis Intelligence Index, calculated using the model's input, cache hit, cache write, reasoning, and answer token prices and the number of tokens used across evaluations (excluding repeats).

Preços: acertos de cache, entrada e saída

Price (USD per M Tokens)

Price per token for cached prompts (previously processed), typically offering a significant discount compared to regular input price, represented as USD per million tokens. The values shown here are the cache hit price; cache write and cache storage are billed separately and vary by provider — see "Cache pricing by provider" for detail.

Desempenho

Medido pelo tempo por tarefa (minutos), pela velocidade de saída (tokens por segundo), pelo tempo até o primeiro token da resposta final e pelo tempo até o primeiro token (segundos)

Tempo por tarefa do Intelligence Index

Output tokens divided by end-to-end output speed (minutes per Intelligence Index task) · Speed at the model's own endpoint or the median across providers · Lower is better

The weighted average time (minutes) per Artificial Analysis Intelligence Index task: output tokens per task divided by output speed, weighted by each benchmark's weight in the Intelligence Index.

Speed and latency metrics average each endpoint's runs over the past 5 days, and the error rate pools them. We run the benchmark every 6 hours, and endpoints of deprecated models every 18 hours.

Velocidade de saída

Output tokens divided by total request time, including time to first token · Higher is better

Output tokens, including reasoning tokens, received per second over a request's full duration, from sending the request to receiving the final token. The headline value averages each Performance v3 workload over the past 5 days, then averages the workloads.

Tempo até o primeiro token da resposta final

Segundos até receber o primeiro token da resposta final · Inclui o tempo de “pensamento” dos modelos de raciocínio

Time to first answer token received, in seconds, after API request sent. For reasoning models, this includes the 'thinking' time of the model before providing an answer. For models which do not support streaming, this represents time to receive the completion.

Janela de contexto

Context window: tokens limit · Higher is better

Larger context windows are relevant to RAG (Retrieval Augmented Generation) LLM workflows which typically involve reasoning and information retrieval of large amounts of data.

Maximum number of combined input & output tokens. Output tokens commonly have a significantly lower limit (varied by model).

Tamanho do modelo (somente modelos de pesos abertos)

Tamanho do modelo: parâmetros totais e ativos

Comparison between total model parameters and parameters active during inference (billions)

The total number of trainable weights and biases in the model, expressed in billions. These parameters are learned during training and determine the model's ability to process and generate responses.

The number of parameters actually executed during each inference forward pass, expressed in billions. For Mixture of Experts (MoE) models, a routing mechanism selects a subset of experts per token, resulting in fewer active than total parameters. Dense models use all parameters, so active equals total.

Mais detalhes

								Pesos
Llama 3 Instruct 8B	Meta	-	8B	8k	$0.055	-	62	🤗

Mais lançamentos de Meta

Perguntas frequentes

Perguntas comuns sobre o Llama 3 Instruct 8B

O Llama 3 Instruct 8B foi lançado em 18 de abril de 2024.

Meta criou o Llama 3 Instruct 8B.

Llama 3 Instruct 8B tem um tempo até o primeiro token da resposta final de 0.48s (com base na mediana dos provedores que oferecem o modelo), um resultado muito competitivo em comparação com outros modelos sem raciocínio, de pesos abertos e tamanho semelhante (mediana: 2.43s).

Llama 3 Instruct 8B custa $0.045 por 1M de tokens de entrada (muito competitivo, mediana: $0.13) e $0.14 por 1M de tokens de saída (muito competitivo, mediana: $0.25), com base na mediana dos provedores que oferecem o modelo.

Llama 3 Instruct 8B custa $0.045 por 1M de tokens de entrada e $0.14 por 1M de tokens de saída (com base na mediana dos provedores que oferecem o modelo). Considerando uma tarifa combinada (proporção de 7:2:1 entre acerto do cache, entrada e saída), o preço é de $0.055 por 1M de tokens. O preço pode variar conforme o provedor. Comparar preços dos provedores

Não, o Llama 3 Instruct 8B não é um modelo de raciocínio. Ele fornece respostas diretas, sem raciocínio em cadeia prolongado.

Llama 3 Instruct 8B aceita entrada em texto.

Llama 3 Instruct 8B permite saída em texto.

Não, o Llama 3 Instruct 8B não aceita imagens como entrada. Ele só consegue processar texto.

Não, o Llama 3 Instruct 8B não é multimodal. Ele aceita apenas entrada em texto.

Llama 3 Instruct 8B tem uma janela de contexto de 8k tokens. Isso determina quanto texto e histórico da conversa o modelo consegue processar em uma única solicitação.

Sim, o Llama 3 Instruct 8B é um modelo de pesos abertos. Os pesos estão disponíveis publicamente e podem ser baixados para auto-hospedagem.

Llama 3 Instruct 8B tem 8B parâmetros.

Llama 3 Instruct 8B foi lançado sob a licença META LLAMA 3 COMMUNITY LICENSE AGREEMENT. O uso comercial é permitido com restrições. Ver licença

A data-limite do conhecimento do Llama 3 Instruct 8B é março de 2023. Os dados de treinamento do modelo incluem informações até essa data.

Sim, o Llama 3 Instruct 8B está disponível por API em 4 provedores. Comparar provedores de API

Llama 3 Instruct 8B está disponível em 4 provedores de API. Comparar provedores

Análise de inteligência, desempenho e preço do Llama 3 Instruct 8B

Resumo do modelo

InteligênciaUpdated

Desempenho

Custo

Verbosidade

Especificações técnicas

75 modelos nesta classe

Inteligência

Tempo por tarefa

Custo por tarefa

InteligênciaUpdated

Artificial Analysis Intelligence Index

Artificial Analysis Intelligence Index

Artificial Analysis Intelligence Index: pesos abertos vs. proprietários

Artificial Analysis Intelligence Index

Open Weights

Intelligence Index vs. custo por tarefa

Cost per Intelligence Index Task

Artificial Analysis Intelligence Index

Openness Index

Artificial Analysis Openness Index: pontuação

Custo

Custo por tarefa do Intelligence Index

Cost per Intelligence Index Task

Custo de executar o Artificial Analysis Intelligence Index

Cost to Run Artificial Analysis Intelligence Index

Preços: acertos de cache, entrada e saída

Cache Hit

Desempenho

Tempo por tarefa do Intelligence Index

Time per Intelligence Index Task

Time Period

Velocidade de saída

End-to-End Output Speed

Tempo até o primeiro token da resposta final

Time to First Answer Token

Janela de contexto

Janela de contexto

Context Window for RAG

Context Window

Tamanho do modelo (somente modelos de pesos abertos)

Tamanho do modelo: parâmetros totais e ativos

Total Parameters

Active Parameters at Inference Time

Mais detalhes

Mais lançamentos de Meta

Perguntas frequentes

Quando o Llama 3 Instruct 8B foi lançado?

Quem criou o Llama 3 Instruct 8B?

Qual é a latência do Llama 3 Instruct 8B?

Quanto custa o Llama 3 Instruct 8B?

Qual é o preço da API do Llama 3 Instruct 8B?

O Llama 3 Instruct 8B é um modelo de raciocínio?

Quais modalidades de entrada o Llama 3 Instruct 8B aceita?

Quais modalidades de saída o Llama 3 Instruct 8B aceita?

O Llama 3 Instruct 8B consegue processar imagens?

O Llama 3 Instruct 8B é multimodal?

Qual é a janela de contexto do Llama 3 Instruct 8B?

O Llama 3 Instruct 8B é de código aberto?

Quantos parâmetros o Llama 3 Instruct 8B tem?

Qual é a licença do Llama 3 Instruct 8B?

Qual é a data-limite do conhecimento do Llama 3 Instruct 8B?

O Llama 3 Instruct 8B está disponível por API?

Onde posso usar o Llama 3 Instruct 8B?