Benchmarks de agentes de programación
DeepSeek Harness vs. Devin Fusion CLI
Comparación entre DeepSeek Harness y Devin Fusion CLI en el Artificial Analysis Coding Agent Index, incluidos resultados de benchmarks, costo, tiempo de ejecución y uso de tokens.
Para más detalles sobre nuestra metodología, consulta nuestra página de metodología.
Comparación
Comparación lado a lado de DeepSeek Harness y Devin Fusion CLI.
Métrica | Análisis | ||
|---|---|---|---|
Harness del agente | DeepSeek Harness | Devin Fusion CLI | |
Modelo representativo | DeepSeek V4.1 Flash 1017 (Max) | Claude Opus 5.5 Max + GPT-6 Luna High | |
Coding Agent Index | 46 | 62 | Devin Fusion CLI tiene un Coding Agent Index más alto que DeepSeek Harness |
FrontierCode v1.1 | 47 | 54 | Devin Fusion CLI tiene una puntuación más alta en FrontierCode v1.1 que DeepSeek Harness |
Terminal-Bench 4.0 | 31 | 63 | Devin Fusion CLI tiene una puntuación más alta en Terminal-Bench 4.0 que DeepSeek Harness |
SWE-Atlas-QnA-AA | 62 | 68 | Devin Fusion CLI tiene una puntuación más alta en SWE-Atlas-QnA-AA que DeepSeek Harness |
Costo por tarea | $0.30 | $8.00 | DeepSeek Harness tiene un costo por tarea más bajo que Devin Fusion CLI |
Tiempo por tarea | 21.4m | 51.1m | DeepSeek Harness tiene un tiempo por tarea más bajo que Devin Fusion CLI |
Turnos por tarea | 101.5 | 99.5 | Devin Fusion CLI tiene menos turnos por tarea que DeepSeek Harness |
Uso de tokens por tarea | 16.7M | 10.5M | Devin Fusion CLI tiene un uso de tokens por tarea más bajo que DeepSeek Harness |
Tasa de aciertos de caché | 97% | 87% | DeepSeek Harness tiene una tasa de aciertos de caché más alta que Devin Fusion CLI |
Variantes de modelo
Variantes de modelo evaluadas para DeepSeek Harness y Devin Fusion CLI.
| max | 46 | 47 | 31 | 62 | $0.30 | 21.4m | 16.7M | ||
| - | 62 | 54 | 63 | 68 | $8.00 | 51.1m | 10.5M | ||
| - | 59 | 52 | 56 | 68 | $8.20 | 37.6m | 9.81M | ||
| - | 53 | 49 | 50 | 60 | $4.34 | 21.2m | 3.63M |
Rendimiento
Rendimiento en el Artificial Analysis Coding Agent Index.
Artificial Analysis Coding Agent Index
Artificial Analysis Coding Agent Index vs. costo por tarea
Uso de tokens
Consumo de tokens en el Artificial Analysis Coding Agent Index.
Uso de tokens por tarea
Artificial Analysis Coding Agent Index vs. tokens totales
Costo
Costo de la API de pago por token en el Artificial Analysis Coding Agent Index, según los precios actuales por token.
Costo por tarea
Tiempo de ejecución
Tiempo de ejecución activo del agente en el Artificial Analysis Coding Agent Index.