Benchmarks de agentes de programação

Codex vs. DeepSeek Harness

Comparação entre Codex e DeepSeek Harness no Artificial Analysis Coding Agent Index, incluindo pontuações de benchmarks, custo, tempo de execução e uso de tokens.

Para saber mais sobre nossa metodologia, consulte a página de metodologia.

Explore outras comparações
vs
Artificial Analysis Coding Agent Index v2.0 · Higher is better
Average agent wall time per task · Lower is better
Average API cost per task (USD) · Lower is better

Comparação

Comparação lado a lado de Codex e DeepSeek Harness.

Métrica
Codex
GPT-6 Astra (Max)
DeepSeek Harness
DeepSeek V4.1 Flash 1017 (Max)
Análise
Harness do agente
Codex
DeepSeek Harness
Modelo representativo
GPT-6 Astra (Max)
DeepSeek V4.1 Flash 1017 (Max)
Coding Agent Index
55
46
Codex tem um Coding Agent Index mais alto que DeepSeek Harness
FrontierCode v1.1
49
47
Codex tem uma pontuação mais alta em FrontierCode v1.1 que DeepSeek Harness
Terminal-Bench 4.0
56
31
Codex tem uma pontuação mais alta em Terminal-Bench 4.0 que DeepSeek Harness
SWE-Atlas-QnA-AA
59
62
DeepSeek Harness tem uma pontuação mais alta em SWE-Atlas-QnA-AA que Codex
Custo por tarefa
$7.04
$0.30
DeepSeek Harness tem um custo por tarefa mais baixo que Codex
Tempo por tarefa
24.8m
21.4m
DeepSeek Harness tem um tempo por tarefa mais baixo que Codex
Turnos por tarefa
39.4
101.5
Codex tem menos turnos por tarefa que DeepSeek Harness
Uso de tokens por tarefa
3.23M
16.7M
Codex tem um uso de tokens por tarefa mais baixo que DeepSeek Harness
Taxa de acertos de cache
93%
97%
DeepSeek Harness tem uma taxa de acertos de cache mais alta que Codex

Variantes de modelo

Variantes de modelo avaliadas para Codex e DeepSeek Harness.

Codex
GPT-6 Astra (Max)
max
55
49
56
59
$7.04
24.8m
3.23M
Codex
GPT-6.1 Sol (Max)
max
54
49
53
60
$1.50
23.7m
3.94M
Codex
GPT-6.1 Terra (Xhigh)
xhigh
48
45
46
54
$0.69
16.4m
6.89M
Codex
GPT-6.1 Terra (Max)
max
48
42
48
54
$1.24
26.1m
12.3M
Codex
DeepSeek V4.1 Flash (Max)
max
47
53
28
61
$0.39
38.1m
27.2M
Codex
GPT-6.1 Terra (High)
high
46
43
42
53
$0.54
12.7m
5.6M
Codex
GPT-6.1 Terra (Medium)
medium
42
44
35
47
$0.39
10.2m
4.08M
Codex
GPT-6.1 Terra (Non-reasoning)
non-reasoning
39
46
25
46
$0.45
9.5m
5.78M
Codex
GPT-6.1 Terra (Low)
low
35
41
25
39
$0.20
6.3m
1.89M
Codex
GPT-6 Luna (Max)
max
31
40
16
38
$0.16
20.8m
8.69M
DeepSeek Harness
DeepSeek V4.1 Flash 1017 (Max)
max
46
47
31
62
$0.30
21.4m
16.7M

Desempenho

Desempenho no Artificial Analysis Coding Agent Index.

Artificial Analysis Coding Agent Index

Artificial Analysis Coding Agent Index v2.0 incorporates 3 benchmarks: FrontierCode v1.1, Terminal-Bench 4.0, and SWE-Atlas-QnA-AA · Higher is better
Colorir por

Artificial Analysis Coding Agent Index vs. custo por tarefa

Artificial Analysis Coding Agent Index vs. média do custo da API de pagamento por token por tarefa (USD)
Colorir por
Most attractive quadrant
Pareto line

Uso de tokens

Consumo de tokens no Artificial Analysis Coding Agent Index.

Uso de tokens por tarefa

Média de tokens de entrada, cache e saída por tarefa
As taxas de acerto do cache de prompts podem variar significativamente conforme o roteamento do provedor, alterando materialmente o custo efetivo.

Artificial Analysis Coding Agent Index vs. tokens totais

Artificial Analysis Coding Agent Index vs. média de tokens totais por tarefa
Colorir por
Most attractive quadrant

Custo

Custo da API de pagamento por token no Artificial Analysis Coding Agent Index, com base nos preços atuais por token.

Custo por tarefa

Average pay-per-token API cost per task (USD) · Lower is better
Colorir por

Tempo de execução

Tempo de execução ativo do agente no Artificial Analysis Coding Agent Index.

Tempo por tarefa

Average agent wall time per task · Lower is better
Colorir por

Artificial Analysis Coding Agent Index vs. tempo de execução

Artificial Analysis Coding Agent Index vs. média do tempo de execução do agente por tarefa
Colorir por
Most attractive quadrant