Inkling Small Benchmarking e análise de provedores de API
Esta análise ajuda você a escolher o melhor provedor de API de Inkling Small para seu caso de uso.
Menor tempo por tarefa
Thinking Machines
DeepInfraTempo por tarefa do Intelligence Index (minutos)
2 provedores no total
Menor custo por tarefa
Thinking MachinesDeepInfraCusto por tarefa do Intelligence Index
2 provedores no total
Inkling Small está disponível em 2 provedores de API, cada um com características de desempenho e preços diferentes. Veja abaixo uma comparação das principais métricas entre os provedores.
- Em tempo por tarefa, Thinking Machines (5.3 min) e DeepInfra (5.7 min) concluem uma tarefa do Intelligence Index mais rápido.
- Em custo por tarefa, Thinking Machines ($0.20) e DeepInfra ($0.29) são os mais baratos por tarefa do Intelligence Index.
- Thinking Machines é o mais ágil e o mais barato por tarefa.
Preços
Custo por tarefa do Intelligence Index: Inkling Small
Preços: acertos de cache, entrada e saída: Inkling Small
Velocidade de saída vs. custo por tarefa: Inkling Small
Velocidade
Média das cargas de trabalho medidas de solicitação única e agênticas multiturno
Tempo por tarefa do Intelligence Index: Inkling Small
Latência
Média das cargas de trabalho medidas de solicitação única e agênticas multiturno
Tempo até o primeiro token da resposta final: Inkling Small
Confiabilidade
Parcela de solicitações em que o endpoint falhou, em todas as cargas de trabalho medidas de solicitação única e agênticas multiturno
Taxa de erros do endpoint: Inkling Small
Cache
Taxa de acertos do cache: Inkling Small
Custo por tarefa vs. Taxa de acertos do cache: Inkling Small
Principais métricas de comparação e recursos da API
Perguntas frequentes
Perguntas comuns sobre os provedores do Inkling Small
Inkling Small está disponível em 2 provedores de API: DeepInfra e Thinking Machines. Cada provedor oferece características de desempenho e preços diferentes.
Atualmente, o Inkling Small está disponível em 2 provedores de API que avaliamos e acompanhamos.
Por tempo por tarefa, os provedores mais rápidos para o Inkling Small são Thinking Machines (5.3 min) e DeepInfra (5.7 min). O tempo por tarefa divide os tokens de saída do modelo por tarefa do Intelligence Index pela velocidade de saída de ponta a ponta de cada provedor.
Os provedores com o menor tempo até o primeiro token da resposta final para o Inkling Small são Thinking Machines (15.14s) e DeepInfra (53.22s). Uma latência menor significa um tempo de resposta inicial mais rápido.
Os provedores mais acessíveis para o Inkling Small em preço combinado são Thinking Machines ($0.22 por 1M de tokens) e DeepInfra ($0.28 por 1M de tokens). O preço combinado usa uma proporção de 7:2:1 entre tokens de acerto do cache, entrada e saída.
Os provedores com o menor preço de tokens de entrada para o Inkling Small são Thinking Machines ($0.30 por 1M de tokens de entrada) e DeepInfra ($0.45 por 1M de tokens de entrada).
Os provedores com o menor preço de tokens de saída para o Inkling Small são DeepInfra ($1.20 por 1M de tokens de saída) e Thinking Machines ($1.20 por 1M de tokens de saída).
Os preços do Inkling Small variam em até 1.3x entre os provedores. O mais acessível é Thinking Machines, com $0.22 por 1M de tokens, enquanto DeepInfra cobra $0.28 por 1M de tokens.
Todos os 2 provedores do Inkling Small são compatíveis com o modo JSON para saída estruturada.
Todos os 2 provedores do Inkling Small são compatíveis com chamadas de funções (uso de ferramentas).
Thinking Machines lidera em todas as principais métricas do Inkling Small, com o menor tempo por tarefa, a menor latência e o preço mais competitivo.
Ao escolher um provedor para o Inkling Small, considere o tempo por tarefa (a rapidez com que o provedor conclui uma tarefa do Intelligence Index), a latência (para aplicações interativas que precisam de respostas iniciais rápidas), o preço (para cargas de trabalho atentas aos custos) e os recursos da API, como modo JSON e chamadas de funções.
Sim. O desempenho dos provedores pode variar ao longo do tempo devido a mudanças na infraestrutura, balanceamento de carga e atualizações. Avaliamos continuamente todos os provedores e exibimos as tendências históricas de desempenho nos gráficos de evolução ao longo do tempo.
Para saber mais sobre a inteligência, as capacidades e as modalidades do Inkling Small, além de como ele se compara a outros modelos, consulte a página de visão geral do modelo. Ver visão geral do modelo