Inkling Small Benchmarks y análisis de proveedores de API
Este análisis está pensado para ayudarte a elegir el mejor proveedor de API de Inkling Small para tu caso de uso.
Menor tiempo por tarea
DeepInfra
Thinking MachinesTiempo por tarea del Intelligence Index (minutos)
2 proveedores en total
Menor costo por tarea
Thinking MachinesDeepInfraCosto por tarea del Intelligence Index
2 proveedores en total
Inkling Small está disponible a través de 2 proveedores de API, cada uno con distintas características de rendimiento y precios. A continuación se comparan las métricas clave entre proveedores.
- En tiempo por tarea, DeepInfra (4.0 min) y Thinking Machines (4.2 min) completan una tarea del Intelligence Index más rápido.
- En costo por tarea, Thinking Machines ($0.20) y DeepInfra ($0.29) son los más baratos por tarea del Intelligence Index.
Precios
Costo por tarea del Intelligence Index: Inkling Small
Precios: aciertos de caché, entrada y salida: Inkling Small
Velocidad de salida vs. costo por tarea: Inkling Small
Velocidad
Promedio de las cargas medidas de solicitud única y agénticas multiturno
Tiempo por tarea del Intelligence Index: Inkling Small
Latencia
Promedio de las cargas medidas de solicitud única y agénticas multiturno
Tiempo hasta el primer token de respuesta: Inkling Small
Fiabilidad
Proporción de solicitudes que el endpoint no completó, en todas las cargas medidas de solicitud única y agénticas multiturno
Tasa de errores del endpoint: Inkling Small
Caché
Tasa de aciertos de caché: Inkling Small
Costo por tarea vs. Tasa de aciertos de caché: Inkling Small
Métricas clave de comparación y funciones de API
Preguntas frecuentes
Preguntas comunes sobre los proveedores de Inkling Small
Inkling Small está disponible a través de 2 proveedores de API: DeepInfra y Thinking Machines. Cada proveedor ofrece distintas características de rendimiento y precios.
Inkling Small está disponible actualmente a través de 2 proveedores de API que medimos y monitoreamos.
Por tiempo por tarea, los proveedores más rápidos para Inkling Small son DeepInfra (4.0 min) y Thinking Machines (4.2 min). El tiempo por tarea divide los tokens de salida del modelo por tarea del Intelligence Index entre la velocidad de salida de extremo a extremo de cada proveedor.
Los proveedores con el menor tiempo hasta el primer token de respuesta para Inkling Small son Thinking Machines (16.33s) y DeepInfra (48.67s). Una menor latencia significa una respuesta inicial más rápida.
Los proveedores más económicos para Inkling Small por precio combinado son Thinking Machines ($0.22 por 1M de tokens) y DeepInfra ($0.28 por 1M de tokens). El precio combinado usa una proporción 7:2:1 de aciertos de caché/entrada/salida.
Los proveedores con el menor precio de tokens de entrada para Inkling Small son Thinking Machines ($0.30 por 1M de tokens de entrada) y DeepInfra ($0.45 por 1M de tokens de entrada).
Los proveedores con el menor precio de tokens de salida para Inkling Small son DeepInfra ($1.20 por 1M de tokens de salida) y Thinking Machines ($1.20 por 1M de tokens de salida).
Los precios de Inkling Small varían hasta 1.3x entre proveedores. El más económico es Thinking Machines a $0.22 por 1M de tokens, mientras que DeepInfra cobra $0.28 por 1M de tokens.
Los 2 proveedores de Inkling Small admiten el modo JSON para salida estructurada.
Los 2 proveedores de Inkling Small admiten llamadas a funciones (uso de herramientas).
El mejor proveedor para Inkling Small depende de tus prioridades: DeepInfra tiene el menor tiempo por tarea, Thinking Machines tiene la menor latencia y Thinking Machines ofrece los precios más competitivos.
Al elegir un proveedor para Inkling Small, considera: tiempo por tarea (la rapidez con la que el proveedor completa una tarea del Intelligence Index), latencia (para aplicaciones interactivas que requieren primeras respuestas rápidas), precios (para cargas de trabajo sensibles al costo) y funciones de API como el modo JSON o las llamadas a funciones.
Sí, el rendimiento de un proveedor puede variar con el tiempo debido a cambios de infraestructura, balanceo de carga y actualizaciones. Medimos continuamente a todos los proveedores y mostramos las tendencias históricas de rendimiento en los gráficos "a lo largo del tiempo".
Para información sobre la inteligencia, las capacidades, las modalidades de Inkling Small y cómo se compara con otros modelos, consulta la página de resumen del modelo. Ver resumen del modelo