Groq: inteligência, desempenho e preço dos modelos
Esta análise ajuda você a escolher o melhor modelo oferecido por Groq para seu caso de uso.
Mais inteligente
Updated
gpt-oss-120b (high)gpt-oss-120b (low)gpt-oss-20b (low)gpt-oss-20b (high)
Llama 3.3 70BIntelligence Index
6 modelos no total
Mais rápido
gpt-oss-20b (high)gpt-oss-20b (low)Llama 3.1 8Bgpt-oss-120b (high)gpt-oss-120b (low)Velocidade de saída
6 modelos no total
Menor preço
Llama 3.1 8Bgpt-oss-20b (low)gpt-oss-20b (high)gpt-oss-120b (high)gpt-oss-120b (low)Preço combinado (por 1M de tokens)
6 modelos no total
Groq oferece 6 modelos, cada um com características diferentes de inteligência, desempenho e preço. Veja abaixo uma comparação das principais métricas entre os modelos.
- Em inteligência, os principais modelos oferecidos por Groq são gpt-oss-120b (high) (12), gpt-oss-120b (low) (10) e gpt-oss-20b (low) (10).
- Em velocidade de saída, os modelos mais rápidos são gpt-oss-20b (high) (931 t/s), gpt-oss-20b (low) (910 t/s) e Llama 3.1 8B (627 t/s). A velocidade varia significativamente entre os modelos, com uma diferença de 97% entre o mais rápido e o mais lento.
- Em latência, Llama 3.3 70B (0.81s), Llama 3.1 8B (0.82s) e gpt-oss-20b (high) (2.88s) têm o menor tempo até o primeiro token da resposta final.
- Em preço, Llama 3.1 8B ($0.05), gpt-oss-20b (low) ($0.10) e gpt-oss-20b (high) ($0.10) têm os menores preços combinados por 1M de tokens. Os preços variam em até 3.7x entre os modelos.
- Em tamanho da janela de contexto, gpt-oss-120b (high) (131k), gpt-oss-120b (low) (131k) e gpt-oss-20b (low) (131k) aceitam as maiores janelas entre os modelos oferecidos por Groq.
Avaliações de inteligência
Artificial Analysis Intelligence Index
Intelligence Evaluations
Agentic knowledge work, (Elo-500)/2000
Agentic real-world work tasks, (Elo-500)/2000
Agentic SaaS workflows
Agentic coding & terminal use
Coding
Reasoning & knowledge
Professional document reasoning, All-pass
Physics reasoning
Knowledge
1 - hallucination rate
Long context reasoning
Legal agentic work, criterion pass rate
Agentic business operations
Agentic scientific research workflows in a terminal
Quantitative analysis on spreadsheets & documents
Kubernetes incident root-cause analysis
Visual reasoning
Medical long context reasoning
Intelligence Index vs. preço
Janela de contexto
Janela de contexto
Preços
Intelligence Index vs. preço
Resumo do desempenho
Velocidade de saída vs. preço
Velocidade
Medida pela velocidade de saída (tokens por segundo)
Velocidade de saída
Latência
Medida pelo tempo (segundos) até o primeiro token
Latência: Tempo até o primeiro token da resposta final
Tempo de resposta de ponta a ponta
Seconds to output 500 tokens, calculated based on time to first token, 'thinking' time for reasoning models, and output speed
Tempo de resposta de ponta a ponta vs. preço
Análises adicionais | |||||||||||
|---|---|---|---|---|---|---|---|---|---|---|---|
gpt-oss-120b (high) | 131k | Aberto | 12 | -- | 471 | 0.74 | 6.04 | 4.24 | |||
gpt-oss-120b (low) | 131k | Aberto | 10* | -- | 472 | 0.77 | 6.06 | 4.23 | |||
gpt-oss-20b (low) | 131k | Aberto | 10* | -- | 918 | 0.82 | 3.54 | 2.18 | |||
gpt-oss-20b (high) | 131k | Aberto | 9 | $0.02 | 943 | 0.80 | 3.45 | 2.12 | |||
Llama 3.3 70B | 131k | Aberto | 8* | -- | 304 | 0.84 | 2.49 | -- | |||
Llama 3.1 8B | 131k | Aberto | 7* | -- | 645 | 0.90 | 1.68 | -- | |||
Principais definições
Perguntas frequentes
Perguntas comuns sobre Groq
Groq oferece 6 modelos que acompanhamos: gpt-oss-120b (high), gpt-oss-120b (low), gpt-oss-20b (low), gpt-oss-20b (high), Llama 3.3 70B e Llama 3.1 8B.
O modelo mais inteligente disponível em Groq é gpt-oss-120b (high), com 12 pontos no Intelligence Index.
O modelo mais rápido em velocidade de saída oferecido por Groq é gpt-oss-20b (high), com 930.9 tokens por segundo.
O modelo com o menor tempo até o primeiro token da resposta final em Groq é Llama 3.3 70B, com 0.81s. Uma latência menor significa um tempo de resposta inicial mais rápido.
O modelo mais acessível em preço combinado oferecido por Groq é Llama 3.1 8B, com $0.05 por 1M de tokens (proporção de 7:2:1 entre tokens de acerto do cache, entrada e saída).
Os preços em Groq variam em até 12x entre os modelos, de $0.05 por 1M de tokens no Llama 3.1 8B a $0.61 por 1M de tokens no Llama 3.3 70B.
Sim. Groq oferece uma API compatível com a OpenAI, facilitando a migração da OpenAI e o uso de integrações existentes com o SDK da OpenAI.
Sim. Todos os 6 modelos oferecidos por Groq são compatíveis com o modo JSON para saída estruturada.
Sim. Todos os 6 modelos oferecidos por Groq são compatíveis com chamadas de funções (uso de ferramentas).
Sim. Groq oferece 4 modelos de raciocínio: gpt-oss-120b (high), gpt-oss-120b (low), gpt-oss-20b (low) e gpt-oss-20b (high). Os modelos de raciocínio usam um processo de reflexão prolongado para resolver problemas complexos antes de responder.
Sim. Todos os 6 modelos oferecidos por Groq são de pesos abertos.
Sim. O desempenho de um provedor pode variar ao longo do tempo devido a mudanças na infraestrutura, balanceamento de carga e atualizações. Avaliamos continuamente todos os provedores e exibimos as tendências históricas de desempenho nos gráficos de evolução ao longo do tempo.
Ao escolher um modelo oferecido por Groq, considere a inteligência (para tarefas que exigem qualidade), a velocidade de saída (para tarefas que exigem alta vazão), a latência (para aplicações interativas que precisam de respostas iniciais rápidas), o preço (para cargas de trabalho atentas aos custos) e recursos como tamanho da janela de contexto, modo JSON e chamadas de funções.