Reflection

Mirror: pontuação no Coding Agent Index, desempenho e preço

Em comparação com outros agentes de programação, o Mirror está na faixa inferior no Coding Agent Index, mas tem preço competitivo. Também é mais lento que a média. Nós o testamos com o Beam 1.0.

O Mirror com Beam 1.0 alcança 20 pontos no Artificial Analysis Coding Agent Index, ficando na faixa inferior entre os agentes de programação (mediana: 49).

Com 38.7m por tarefa, o Mirror com Beam 1.0 é mais lento que a média (mediana: 36.1m).

Em média, executar o Mirror com Beam 1.0 no Coding Agent Index custa $0.32 em uso de API por tarefa (preço competitivo, mediana: $5.41).

Desempenho

Desempenho no Artificial Analysis Coding Agent Index.

Artificial Analysis Coding Agent Index

Artificial Analysis Coding Agent Index v2.0 incorporates 3 benchmarks: FrontierCode v1.1, Terminal-Bench 4.0, and SWE-Atlas-QnA-AA · Higher is better

Colorir por

Roteadores de modelos

The Artificial Analysis Coding Agent Index is a composite score built from FrontierCode v1.1, Terminal-Bench 4.0 e SWE-Atlas-QnA-AA.

It is useful for quick comparison, but it should be read alongside the per-eval breakdowns. Two agents with similar index values can still have different strengths across repository tasks, terminal workflows, and rubric-based evaluations.

Artificial Analysis Coding Agent Index vs. custo por tarefa

Artificial Analysis Coding Agent Index vs. média do custo da API de pagamento por token por tarefa (USD)

Colorir por

Roteadores de modelos

Most attractive quadrant

Pareto line

Each point represents a coding-agent variant. Farther left means lower average cost per task, while higher on the chart means higher benchmark performance. The most efficient agents sit toward the upper-left: stronger results at lower cost.

Uso de tokens

Consumo de tokens no Artificial Analysis Coding Agent Index, incluindo uso total, distribuição de tokens, eficiência e detalhamentos por benchmark.

Uso de tokens por tarefa

Média de tokens de entrada, cache e saída por tarefa

Roteadores de modelos

As taxas de acerto do cache de prompts podem variar significativamente conforme o roteamento do provedor, alterando materialmente o custo efetivo.

Non-cached input tokens sent to the model, including prompts, instructions, tool context, and task context that were not served from prompt cache.

Artificial Analysis Coding Agent Index vs. tokens totais

Artificial Analysis Coding Agent Index vs. média de tokens totais por tarefa

Colorir por

Roteadores de modelos

Most attractive quadrant

Each point represents a coding-agent variant. Farther left means lower average total token usage per task, while higher on the chart means higher benchmark performance. Agents toward the upper-left achieve stronger results with fewer tokens.

Custo

Custo no Artificial Analysis Coding Agent Index com base nos preços atuais da API por token, incluindo o preço de gravação de cache e os descontos de cache quando disponíveis. Muitos usuários acessarão os harnesses de agentes de programação por meio de planos de assinatura em vez de pagamento por token.

Custo por tarefa

Average pay-per-token API cost per task (USD) · Lower is better

Colorir por

Roteadores de modelos

This chart shows the average pay-per-token API cost per task across the Artificial Analysis Coding Agent Index, spanning FrontierCode v1.1, Terminal-Bench 4.0 e SWE-Atlas-QnA-AA.

Where applicable, that cost model includes standard input pricing, discounted cached-input pricing, separate cache-write charges, and output pricing rather than treating all prompt tokens as if they were billed at the same uncached input rate.

It is intended to show pay-per-token API cost, not consumer plan pricing or the full operational cost of deploying the system in production. Infrastructure, engineering, and supervision costs are not the focus of this metric.

Tempo de execução

Tempo de execução ativo do agente no Artificial Analysis Coding Agent Index.

Tempo por tarefa

Average agent wall time per task · Lower is better

Colorir por

Roteadores de modelos

This chart uses agent wall time: how long the agent process was actively running on each task.

It does not include environment startup, verifier or judge time, or other harness overhead, so it is a cleaner comparison of how long the agent itself was working.

Artificial Analysis Coding Agent Index vs. tempo de execução

Artificial Analysis Coding Agent Index vs. média do tempo de execução do agente por tarefa

Colorir por

Roteadores de modelos

Most attractive quadrant

Each point represents a coding-agent variant. Farther left means shorter average agent runtime per task, while higher on the chart means higher benchmark performance. Agents toward the upper-left deliver stronger results in less active agent time.

Recusas de Segurança

Metodologia

Com que frequência o provedor ou o modelo se recusa a prosseguir com uma tarefa por motivos de segurança no Artificial Analysis Coding Agent Index.

Taxa de Recusas de Segurança

Share of retained task attempts with a safety refusal · Equal weight per benchmark · Lower is better

Dividir por

Roteadores de modelos

O comportamento de segurança e de modelo alternativo é configurado pelo provedor e pode mudar ao longo do tempo; estas taxas refletem o comportamento registrado no momento da avaliação.

Bloqueado encerrou a tentativa. Modelo alternativo significa que outro modelo a concluiu. Ambos contam para a taxa de recusas.

Reward Hacking

Metodologia

Proporção de tentativas que seriam aprovadas, mas recebem nota zero por uma violação de integridade.

Taxa de Reward Hacking: FrontierCode v1.1

Share of task attempts scored zero for reward hacking · Usamos uma versão modificada do scanner baseado em regras da Cognition para detectar acesso proibido a materiais com soluções · Lower is better

Colorir por

Roteadores de modelos

Mirror: pontuação no Coding Agent Index, desempenho e preço

Resumo da comparação

Desempenho

Artificial Analysis Coding Agent Index

What This Metric Means

Artificial Analysis Coding Agent Index vs. custo por tarefa

How to Read This Chart

Uso de tokens

Uso de tokens por tarefa

Input Tokens

Artificial Analysis Coding Agent Index vs. tokens totais

How to Read This Chart

Custo

Custo por tarefa

What Cost Is Measuring

Tempo de execução

Tempo por tarefa

What Execution Time Is Measuring

Artificial Analysis Coding Agent Index vs. tempo de execução

How to Read This Chart

Recusas de Segurança

Taxa de Recusas de Segurança

Resultados das recusas de segurança

Reward Hacking

Taxa de Reward Hacking: FrontierCode v1.1

Especificações da execução