Benchmarks de agentes de programação

Mirror vs. Mistral Vibe

Comparação entre Mirror e Mistral Vibe no Artificial Analysis Coding Agent Index, incluindo pontuações de benchmarks, custo, tempo de execução e uso de tokens.

Para saber mais sobre nossa metodologia, consulte a página de metodologia.

Explore outras comparações
vs
Artificial Analysis Coding Agent Index v2.1 · Higher is better
Average agent wall time per task · Lower is better
Average API cost per task (USD) · Lower is better

Comparação

Comparação lado a lado de Mirror e Mistral Vibe.

Métrica
Beam 1.0
Mistral Large 4 (High)
Análise
Harness do agente
Mirror
Mistral Vibe
Modelo representativo
Beam 1.0
Mistral Large 4 (High)
Coding Agent Index
15
41
Mistral Vibe tem um Coding Agent Index mais alto que Mirror
FrontierCode-AA 2.0
5
20
Mistral Vibe tem uma pontuação mais alta em FrontierCode-AA 2.0 que Mirror
Terminal-Bench 4.1
4
42
Mistral Vibe tem uma pontuação mais alta em Terminal-Bench 4.1 que Mirror
SWE-Atlas-QnA-AA
38
59
Mistral Vibe tem uma pontuação mais alta em SWE-Atlas-QnA-AA que Mirror
Custo por tarefa
$0.31
$1.34
Mirror tem um custo por tarefa mais baixo que Mistral Vibe
Tempo por tarefa
40.5m
49.0m
Mirror tem um tempo por tarefa mais baixo que Mistral Vibe
Turnos por tarefa
97.6
107.3
Mirror tem menos turnos por tarefa que Mistral Vibe
Uso de tokens por tarefa
5.57M
9.42M
Mirror tem um uso de tokens por tarefa mais baixo que Mistral Vibe
Taxa de acertos de cache
92%
92%
Ambos os agentes têm a mesma taxa de acertos de cache

Modelos

Modelos avaliados para Mirror e Mistral Vibe.

Beam 1.0
reasoning
15
5
4
38
$0.31
40.5m
5.57M
Mistral Large 4 (High)
high
41
20
42
59
$1.34
49.0m
9.42M
Mistral Large 4 (Medium)
medium
30
18
26
45
$1.02
43.1m
7.73M

Desempenho

Desempenho no Artificial Analysis Coding Agent Index.

Artificial Analysis Coding Agent Index

Artificial Analysis Coding Agent Index v2.1 incorporates 3 benchmarks: FrontierCode-AA 2.0, Terminal-Bench 4.1, and SWE-Atlas-QnA-AA · Higher is better
Colorir por

Artificial Analysis Coding Agent Index vs. custo por tarefa

Artificial Analysis Coding Agent Index vs. média do custo da API de pagamento por token por tarefa (USD)
Colorir por
Most attractive quadrant
Pareto line

Uso de tokens

Consumo de tokens no Artificial Analysis Coding Agent Index.

Uso de tokens por tarefa

Média de tokens de entrada, cache e saída por tarefa
As taxas de acerto do cache de prompts podem variar significativamente conforme o roteamento do provedor, alterando materialmente o custo efetivo.

Artificial Analysis Coding Agent Index vs. tokens totais

Artificial Analysis Coding Agent Index vs. média de tokens totais por tarefa
Colorir por
Most attractive quadrant

Custo

Custo da API de pagamento por token no Artificial Analysis Coding Agent Index, com base nos preços atuais por token.

Custo por tarefa

Average pay-per-token API cost per task (USD) · Lower is better
Colorir por

Tempo de execução

Tempo de execução ativo do agente no Artificial Analysis Coding Agent Index.

Tempo por tarefa

Average agent wall time per task · Lower is better
Colorir por

Artificial Analysis Coding Agent Index vs. tempo de execução

Artificial Analysis Coding Agent Index vs. média do tempo de execução do agente por tarefa
Colorir por
Most attractive quadrant