Benchmarks de agentes de programação

Codex vs. Mistral Vibe

Comparação entre Codex e Mistral Vibe no Artificial Analysis Coding Agent Index, incluindo pontuações de benchmarks, custo, tempo de execução e uso de tokens.

Para saber mais sobre nossa metodologia, consulte a página de metodologia.

Explore outras comparações
vs
Artificial Analysis Coding Agent Index v2.1 · Higher is better
Average agent wall time per task · Lower is better
Average API cost per task (USD) · Lower is better

Comparação

Comparação lado a lado de Codex e Mistral Vibe.

Métrica
GPT-6.2 Astra (Max)
Mistral Large 4 (High)
Análise
Harness do agente
Codex
Mistral Vibe
Modelo representativo
GPT-6.2 Astra (Max)
Mistral Large 4 (High)
Coding Agent Index
53
41
Codex tem um Coding Agent Index mais alto que Mistral Vibe
FrontierCode-AA 2.0
42
20
Codex tem uma pontuação mais alta em FrontierCode-AA 2.0 que Mistral Vibe
Terminal-Bench 4.1
64
42
Codex tem uma pontuação mais alta em Terminal-Bench 4.1 que Mistral Vibe
SWE-Atlas-QnA-AA
55
59
Mistral Vibe tem uma pontuação mais alta em SWE-Atlas-QnA-AA que Codex
Custo por tarefa
$5.12
$1.34
Mistral Vibe tem um custo por tarefa mais baixo que Codex
Tempo por tarefa
25.1m
49.0m
Codex tem um tempo por tarefa mais baixo que Mistral Vibe
Turnos por tarefa
51
107.3
Codex tem menos turnos por tarefa que Mistral Vibe
Uso de tokens por tarefa
4.67M
9.42M
Codex tem um uso de tokens por tarefa mais baixo que Mistral Vibe
Taxa de acertos de cache
95%
92%
Codex tem uma taxa de acertos de cache mais alta que Mistral Vibe

Modelos

Modelos avaliados para Codex e Mistral Vibe.

GPT-6.2 Astra (Max)
max
53
42
64
55
$5.12
25.1m
4.67M
GPT-6.2 Astra (Xhigh)
xhigh
53
43
62
54
$3.20
16.5m
3.09M
GPT-6 Astra (Max)
max
53
43
58
59
$7.63
26.0m
3.47M
GPT-6.2 Astra (High)
high
52
42
60
55
$2.37
15.8m
2.26M
GPT-6.1 Sol (Max)
max
52
42
54
60
$1.51
21.9m
4.33M
GPT-6.2 Sol (Xhigh)
xhigh
50
40
58
51
$0.90
12.6m
3.26M
GPT-6.2 Astra (Medium)
medium
49
40
54
54
$1.20
11.6m
1.02M
GPT-6.1 Terra (Max)
max
49
41
51
54
$1.53
28.1m
14.4M
GPT-6.2 Sol (Max)
max
49
42
58
46
$1.22
17.5m
4.25M
GPT-6.2 Sol (High)
high
47
38
54
51
$0.76
10.6m
2.96M
GPT-6.2 Sol (Medium)
medium
45
36
49
50
$0.57
8.4m
2.28M
GPT-6.2 Sol (Low)
low
37
28
41
42
$0.33
7.2m
1.31M
GPT-6.2 Astra (Low)
low
36
27
44
36
$0.70
7.8m
551k
GPT-6 Luna (Max)
max
26
24
15
38
$0.19
23.5m
10.1M
Mistral Large 4 (High)
high
41
20
42
59
$1.34
49.0m
9.42M
Mistral Large 4 (Medium)
medium
30
18
26
45
$1.02
43.1m
7.73M

Desempenho

Desempenho no Artificial Analysis Coding Agent Index.

Artificial Analysis Coding Agent Index

Artificial Analysis Coding Agent Index v2.1 incorporates 3 benchmarks: FrontierCode-AA 2.0, Terminal-Bench 4.1, and SWE-Atlas-QnA-AA · Higher is better
Colorir por

Artificial Analysis Coding Agent Index vs. custo por tarefa

Artificial Analysis Coding Agent Index vs. média do custo da API de pagamento por token por tarefa (USD)
Colorir por
Most attractive quadrant
Pareto line

Uso de tokens

Consumo de tokens no Artificial Analysis Coding Agent Index.

Uso de tokens por tarefa

Média de tokens de entrada, cache e saída por tarefa
As taxas de acerto do cache de prompts podem variar significativamente conforme o roteamento do provedor, alterando materialmente o custo efetivo.

Artificial Analysis Coding Agent Index vs. tokens totais

Artificial Analysis Coding Agent Index vs. média de tokens totais por tarefa
Colorir por
Most attractive quadrant

Custo

Custo da API de pagamento por token no Artificial Analysis Coding Agent Index, com base nos preços atuais por token.

Custo por tarefa

Average pay-per-token API cost per task (USD) · Lower is better
Colorir por

Tempo de execução

Tempo de execução ativo do agente no Artificial Analysis Coding Agent Index.

Tempo por tarefa

Average agent wall time per task · Lower is better
Colorir por

Artificial Analysis Coding Agent Index vs. tempo de execução

Artificial Analysis Coding Agent Index vs. média do tempo de execução do agente por tarefa
Colorir por
Most attractive quadrant