DeepInfra: inteligência, desempenho e preço dos modelos

DeepInfra oferece 97 modelos que acompanhamos: GLM-5.2 (max) (FP4), DeepSeek V4 Flash 0731 (max), MiniMax-M3, DeepSeek V4 Pro (max) (FP4), Kimi K2.6 (FP4), DeepSeek V4 Pro (high) (FP4), MiMo-V2.5-Pro, Kimi K2.7 Code, Hy3 (FP8), Inkling (FP8), DeepSeek V4 Flash (max) (FP4), Inkling Small, GLM-5.1 (FP4), GLM-5 (FP4), Nemotron 3 Ultra, Nemotron 3 Ultra BF16, DeepSeek V4 Flash (high) (FP4), MiMo-V2.5, Qwen3.6 27B FP8, Kimi K2.5, GLM-5.1 (FP4), Kimi K2.6 (FP4), Qwen3.5 27B (FP8), GLM-4.7 (FP4), Qwen3.5 397B A17B (FP8), MiniMax-M2.5 (FP8), GLM-5 (FP8), Qwen3.5 122B A10B (FP4), DeepSeek V3.2 (FP4), Qwen3.5 397B A17B (FP8), Qwen3.6 35B A3B (FP8), Qwen3.6 27B FP8, Step 3.7 Flash, Gemma 4 31B, Qwen3.5 27B FP8, Qwen3.5 35B A3B (FP8), GLM-4.6 (FP4), MiMo-V2.5-Pro, Qwen3.5 122B A10B (FP4), GLM-4.7 (FP4), Gemma 4 26B A4B, NVIDIA Nemotron 3 Super, DeepSeek V3.2, Qwen3.6 35B A3B (FP8), Qwen3.5 35B A3B FP8, gpt-oss-120b (high), gpt-oss-120b (high) (Turbo), GLM-4.7-Flash, Gemma 4 31B (FP8), DeepSeek V3.1 Terminus (FP4), DeepSeek V3.1 (FP4), Gemma 4 26B A4B (FP8), Qwen3.5 4B (FP8), DeepSeek R1 0528, Qwen3 235B A22B 2507 (FP8), Qwen3 235B 2507 (FP8), Qwen3 Coder 480B (Turbo, FP4), Qwen3.5 4B FP8, DeepSeek V3 0324 (FP4), gpt-oss-20b (high), Mistral Small 3.1, Llama 4 Maverick (FP8), NVIDIA Nemotron 3 Nano, DeepSeek V3 (Dec), Qwen3 Next 80B A3B, Llama Nemotron Super 49B v1.5, Gemma 4 E4B, Qwen3 32B (FP8), Mistral Small 3.2 (FP8), Qwen3 14B (FP8), Llama 4 Scout, DeepSeek R1 Distill Llama 70B, Qwen2.5 72B, Llama 3.3 70B (Turbo, FP8), Qwen3 30B (FP8), NVIDIA Nemotron Nano 12B v2 VL (FP8), Gemma 4 E4B, NVIDIA Nemotron Nano 9B V2, Llama Nemotron Super 49B v1.5, Qwen3 32B (FP8), Llama 3.1 Nemotron 70B, Llama 3.1 8B (Turbo, FP8), Llama 3.1 8B, Gemma 3 27B, NVIDIA Nemotron 3 Nano, NVIDIA Nemotron Nano 9B V2, Qwen3 14B (FP8), Mistral Small 3, Qwen3 30B (FP8), Llama 3.1 70B, Llama 3.1 70B (Turbo, FP8), Gemma 3 12B, Hermes 3 - Llama-3.1 70B, Phi-4, NVIDIA Nemotron Nano 12B v2 VL (FP8), Llama 3.2 11B (Vision) e Gemma 3 4B.

O modelo mais inteligente disponível em DeepInfra é GLM-5.2 (max) (FP4), com 51 pontos no Intelligence Index.

O modelo mais rápido em velocidade de saída oferecido por DeepInfra é Step 3.7 Flash, com 202.7 tokens por segundo.

O modelo com o menor tempo até o primeiro token da resposta final em DeepInfra é NVIDIA Nemotron 3 Nano, com 0.43s. Uma latência menor significa um tempo de resposta inicial mais rápido.

O modelo mais acessível em preço combinado oferecido por DeepInfra é Llama 3.1 8B (Turbo, FP8), com $0.02 por 1M de tokens (proporção de 7:2:1 entre tokens de acerto do cache, entrada e saída).

Os preços em DeepInfra variam em até 55x entre os modelos, de $0.02 por 1M de tokens no Llama 3.1 8B (Turbo, FP8) a $1.20 por 1M de tokens no Llama 3.1 Nemotron 70B.

Sim. DeepInfra oferece uma API compatível com a OpenAI, facilitando a migração da OpenAI e o uso de integrações existentes com o SDK da OpenAI.

94 de 97 modelos oferecidos por DeepInfra são compatíveis com o modo JSON para saída estruturada.

94 de 97 modelos oferecidos por DeepInfra são compatíveis com chamadas de funções (uso de ferramentas).

Sim. DeepInfra oferece 49 modelos de raciocínio: GLM-5.2 (max) (FP4), DeepSeek V4 Flash 0731 (max), MiniMax-M3, DeepSeek V4 Pro (max) (FP4), Kimi K2.6 (FP4), DeepSeek V4 Pro (high) (FP4), MiMo-V2.5-Pro, Kimi K2.7 Code, Hy3 (FP8), Inkling (FP8), DeepSeek V4 Flash (max) (FP4), Inkling Small, GLM-5.1 (FP4), GLM-5 (FP4), Nemotron 3 Ultra, Nemotron 3 Ultra BF16, DeepSeek V4 Flash (high) (FP4), MiMo-V2.5, Qwen3.6 27B FP8, Kimi K2.5, Qwen3.5 27B (FP8), GLM-4.7 (FP4), Qwen3.5 397B A17B (FP8), MiniMax-M2.5 (FP8), Qwen3.5 122B A10B (FP4), DeepSeek V3.2 (FP4), Qwen3.6 35B A3B (FP8), Step 3.7 Flash, Gemma 4 31B, Qwen3.5 35B A3B (FP8), GLM-4.6 (FP4), Gemma 4 26B A4B, NVIDIA Nemotron 3 Super, gpt-oss-120b (high), gpt-oss-120b (high) (Turbo), GLM-4.7-Flash, Qwen3.5 4B (FP8), DeepSeek R1 0528, Qwen3 235B A22B 2507 (FP8), gpt-oss-20b (high), NVIDIA Nemotron 3 Nano, Llama Nemotron Super 49B v1.5, Gemma 4 E4B, Qwen3 32B (FP8), Qwen3 14B (FP8), DeepSeek R1 Distill Llama 70B, Qwen3 30B (FP8), NVIDIA Nemotron Nano 12B v2 VL (FP8) e NVIDIA Nemotron Nano 9B V2. Os modelos de raciocínio usam um processo de reflexão prolongado para resolver problemas complexos antes de responder.

Sim. Todos os 97 modelos oferecidos por DeepInfra são de pesos abertos.

Sim. O desempenho de um provedor pode variar ao longo do tempo devido a mudanças na infraestrutura, balanceamento de carga e atualizações. Avaliamos continuamente todos os provedores e exibimos as tendências históricas de desempenho nos gráficos de evolução ao longo do tempo.

Ao escolher um modelo oferecido por DeepInfra, considere a inteligência (para tarefas que exigem qualidade), a velocidade de saída (para tarefas que exigem alta vazão), a latência (para aplicações interativas que precisam de respostas iniciais rápidas), o preço (para cargas de trabalho atentas aos custos) e recursos como tamanho da janela de contexto, modo JSON e chamadas de funções.