Sarvam: inteligencia, rendimiento y precio de sus modelos

Sarvam ofrece 1 modelo que monitoreamos: Sarvam 105B (high).

El modelo con el menor tiempo hasta el primer token de respuesta en Sarvam es Sarvam 105B (high), con 8.87s. Una menor latencia significa una respuesta inicial más rápida.

El modelo más económico en Sarvam por precio combinado es Sarvam 105B (high), a $0.04 por 1M de tokens (proporción 7:2:1 de aciertos de caché/entrada/salida).

Sí, Sarvam ofrece una API compatible con OpenAI, lo que facilita cambiar desde OpenAI o usar integraciones existentes del SDK de OpenAI.

Sí, los 1 modelos en Sarvam admiten el modo JSON para salida estructurada.

Sí, los 1 modelos en Sarvam admiten llamadas a funciones (uso de herramientas).

Sí, Sarvam ofrece 1 modelo de razonamiento: Sarvam 105B (high). Los modelos de razonamiento usan pensamiento extendido para resolver problemas complejos antes de responder.

Sí, los 1 modelos en Sarvam son modelos de pesos abiertos.

Sí, el rendimiento de un proveedor puede variar con el tiempo debido a cambios de infraestructura, balanceo de carga y actualizaciones. Medimos continuamente a todos los proveedores y mostramos las tendencias históricas de rendimiento en los gráficos "a lo largo del tiempo".

Al elegir un modelo en Sarvam, considera: inteligencia (para tareas sensibles a la calidad), tiempo por tarea (la rapidez con la que el modelo completa una tarea del Intelligence Index), latencia (para aplicaciones interactivas que requieren primeras respuestas rápidas), precios (para cargas de trabajo sensibles al costo) y funcionalidades como el tamaño de la ventana de contexto, el modo JSON o las llamadas a funciones.