Sarvam: inteligência, desempenho e preço dos modelos

Sarvam oferece 1 modelo que acompanhamos: Sarvam 105B (high).

O modelo com o menor tempo até o primeiro token da resposta final em Sarvam é Sarvam 105B (high), com 10.78s. Uma latência menor significa um tempo de resposta inicial mais rápido.

O modelo mais acessível em preço combinado oferecido por Sarvam é Sarvam 105B (high), com $0.0436 por 1M de tokens (proporção de 7:2:1 entre tokens de acerto do cache, entrada e saída).

Sim. Sarvam oferece uma API compatível com a OpenAI, facilitando a migração da OpenAI e o uso de integrações existentes com o SDK da OpenAI.

Sim. Todos os 1 modelos oferecidos por Sarvam são compatíveis com o modo JSON para saída estruturada.

Sim. Todos os 1 modelos oferecidos por Sarvam são compatíveis com chamadas de funções (uso de ferramentas).

Sim. Sarvam oferece 1 modelo de raciocínio: Sarvam 105B (high). Os modelos de raciocínio usam um processo de reflexão prolongado para resolver problemas complexos antes de responder.

Sim. Todos os 1 modelos oferecidos por Sarvam são de pesos abertos.

Sim. O desempenho de um provedor pode variar ao longo do tempo devido a mudanças na infraestrutura, balanceamento de carga e atualizações. Avaliamos continuamente todos os provedores e exibimos as tendências históricas de desempenho nos gráficos de evolução ao longo do tempo.

Ao escolher um modelo oferecido por Sarvam, considere a inteligência (para tarefas que exigem qualidade), o tempo por tarefa (a rapidez com que o modelo conclui uma tarefa do Intelligence Index), a latência (para aplicações interativas que precisam de respostas iniciais rápidas), o preço (para cargas de trabalho atentas aos custos) e recursos como tamanho da janela de contexto, modo JSON e chamadas de funções.