Benchmarks de agentes de programação

DeepSeek Harness vs. Mirror

Comparação entre DeepSeek Harness e Mirror no Artificial Analysis Coding Agent Index, incluindo pontuações de benchmarks, custo, tempo de execução e uso de tokens.

Para saber mais sobre nossa metodologia, consulte a página de metodologia.

Explore outras comparações
vs
Artificial Analysis Coding Agent Index v2.0 · Higher is better
Average agent wall time per task · Lower is better
Average API cost per task (USD) · Lower is better

Comparação

Comparação lado a lado de DeepSeek Harness e Mirror.

Métrica
DeepSeek V4.1 Flash 1017 (Max)
Beam 1.0
Análise
Harness do agente
DeepSeek Harness
Mirror
Modelo representativo
DeepSeek V4.1 Flash 1017 (Max)
Beam 1.0
Coding Agent Index
46
20
DeepSeek Harness tem um Coding Agent Index mais alto que Mirror
FrontierCode v1.1
47
20
DeepSeek Harness tem uma pontuação mais alta em FrontierCode v1.1 que Mirror
Terminal-Bench 4.0
31
4
DeepSeek Harness tem uma pontuação mais alta em Terminal-Bench 4.0 que Mirror
SWE-Atlas-QnA-AA
62
38
DeepSeek Harness tem uma pontuação mais alta em SWE-Atlas-QnA-AA que Mirror
Custo por tarefa
$0.30
$0.32
DeepSeek Harness tem um custo por tarefa mais baixo que Mirror
Tempo por tarefa
21.4m
38.7m
DeepSeek Harness tem um tempo por tarefa mais baixo que Mirror
Turnos por tarefa
101.5
93
Mirror tem menos turnos por tarefa que DeepSeek Harness
Uso de tokens por tarefa
16.7M
4.89M
Mirror tem um uso de tokens por tarefa mais baixo que DeepSeek Harness
Taxa de acertos de cache
97%
95%
DeepSeek Harness tem uma taxa de acertos de cache mais alta que Mirror

Variantes de modelo

Variantes de modelo avaliadas para DeepSeek Harness e Mirror.

DeepSeek V4.1 Flash 1017 (Max)
max
46
47
31
62
$0.30
21.4m
16.7M
Beam 1.0
reasoning
20
20
4
38
$0.32
38.7m
4.89M

Desempenho

Desempenho no Artificial Analysis Coding Agent Index.

Artificial Analysis Coding Agent Index

Artificial Analysis Coding Agent Index v2.0 incorporates 3 benchmarks: FrontierCode v1.1, Terminal-Bench 4.0, and SWE-Atlas-QnA-AA · Higher is better
Colorir por

Artificial Analysis Coding Agent Index vs. custo por tarefa

Artificial Analysis Coding Agent Index vs. média do custo da API de pagamento por token por tarefa (USD)
Colorir por
Most attractive quadrant

Uso de tokens

Consumo de tokens no Artificial Analysis Coding Agent Index.

Uso de tokens por tarefa

Média de tokens de entrada, cache e saída por tarefa
As taxas de acerto do cache de prompts podem variar significativamente conforme o roteamento do provedor, alterando materialmente o custo efetivo.

Artificial Analysis Coding Agent Index vs. tokens totais

Artificial Analysis Coding Agent Index vs. média de tokens totais por tarefa
Colorir por
Most attractive quadrant

Custo

Custo da API de pagamento por token no Artificial Analysis Coding Agent Index, com base nos preços atuais por token.

Custo por tarefa

Average pay-per-token API cost per task (USD) · Lower is better
Colorir por

Tempo de execução

Tempo de execução ativo do agente no Artificial Analysis Coding Agent Index.

Tempo por tarefa

Average agent wall time per task · Lower is better
Colorir por

Artificial Analysis Coding Agent Index vs. tempo de execução

Artificial Analysis Coding Agent Index vs. média do tempo de execução do agente por tarefa
Colorir por
Most attractive quadrant