GitHub Copilot vs. Mirror

Name: Coding Agent Index
Creator: Artificial Analysis
License: https://artificialanalysis.ai/docs/legal/Terms-of-Use.pdf

Comparação entre GitHub Copilot e Mirror no Artificial Analysis Coding Agent Index, incluindo pontuações de benchmarks, custo, tempo de execução e uso de tokens.

Para saber mais sobre nossa metodologia, consulte a página de metodologia.

Explore outras comparações

Coding Agent Index

Artificial Analysis Coding Agent Index v2.0 · Higher is better

Tempo por tarefa

Average agent wall time per task · Lower is better

Custo por tarefa

Average API cost per task (USD) · Lower is better

Comparação

Comparação lado a lado de GitHub Copilot e Mirror.

Comparação de agentes de programação

Métrica	GitHub Copilot Copilot Fusion (Max)	Mirror Beam 1.0	Análise
Harness do agente	GitHub Copilot	Mirror
Modelo representativo	Copilot Fusion (Max)	Beam 1.0
Coding Agent Index	60	20	GitHub Copilot tem um Coding Agent Index mais alto que Mirror
FrontierCode v1.1	51%	20%	GitHub Copilot tem uma pontuação mais alta em FrontierCode v1.1 que Mirror
Terminal-Bench 4.0	71%	4%	GitHub Copilot tem uma pontuação mais alta em Terminal-Bench 4.0 que Mirror
SWE-Atlas-QnA-AA	57%	38%	GitHub Copilot tem uma pontuação mais alta em SWE-Atlas-QnA-AA que Mirror
Custo por tarefa	US$ 5,59	US$ 0,32	Mirror tem um custo por tarefa mais baixo que GitHub Copilot
Tempo por tarefa	36,1 min	38,7 min	GitHub Copilot tem um tempo por tarefa mais baixo que Mirror
Turnos por tarefa	171	93	Mirror tem menos turnos por tarefa que GitHub Copilot
Uso de tokens por tarefa	7,3 mi	4,9 mi	Mirror tem um uso de tokens por tarefa mais baixo que GitHub Copilot
Taxa de acertos de cache	97%	95%	GitHub Copilot tem uma taxa de acertos de cache mais alta que Mirror

Variantes de modelo

Variantes de modelo avaliadas para GitHub Copilot e Mirror.

Variantes de modelo


GitHub Copilot	Copilot Fusion (Max)	60	51%	71%	57%	US$ 5,59	36,1 min	7,3 mi
Mirror	Beam 1.0	20	20%	4%	38%	US$ 0,32	38,7 min	4,9 mi

Desempenho

Desempenho no Artificial Analysis Coding Agent Index.

Artificial Analysis Coding Agent Index

Artificial Analysis Coding Agent Index v2.0 incorporates 3 benchmarks: FrontierCode v1.1, Terminal-Bench 4.0, and SWE-Atlas-QnA-AA · Higher is better

Colorir por

The Artificial Analysis Coding Agent Index is a composite score built from FrontierCode v1.1, Terminal-Bench 4.0 e SWE-Atlas-QnA-AA.

It is useful for quick comparison, but it should be read alongside the per-eval breakdowns. Two agents with similar index values can still have different strengths across repository tasks, terminal workflows, and rubric-based evaluations.

Artificial Analysis Coding Agent Index vs. custo por tarefa

Artificial Analysis Coding Agent Index vs. média do custo da API de pagamento por token por tarefa (USD)

Colorir por

Most attractive quadrant

Pareto line

Each point represents a coding-agent variant. Farther left means lower average cost per task, while higher on the chart means higher benchmark performance. The most efficient agents sit toward the upper-left: stronger results at lower cost.

Uso de tokens

Consumo de tokens no Artificial Analysis Coding Agent Index.

Uso de tokens por tarefa

Média de tokens de entrada, cache e saída por tarefa

As taxas de acerto do cache de prompts podem variar significativamente conforme o roteamento do provedor, alterando materialmente o custo efetivo.

Non-cached input tokens sent to the model, including prompts, instructions, tool context, and task context that were not served from prompt cache.

Artificial Analysis Coding Agent Index vs. tokens totais

Artificial Analysis Coding Agent Index vs. média de tokens totais por tarefa

Colorir por

Most attractive quadrant

Each point represents a coding-agent variant. Farther left means lower average total token usage per task, while higher on the chart means higher benchmark performance. Agents toward the upper-left achieve stronger results with fewer tokens.

Custo

Custo da API de pagamento por token no Artificial Analysis Coding Agent Index, com base nos preços atuais por token.

Custo por tarefa

Average pay-per-token API cost per task (USD) · Lower is better

Colorir por

This chart shows the average pay-per-token API cost per task across the Artificial Analysis Coding Agent Index, spanning FrontierCode v1.1, Terminal-Bench 4.0 e SWE-Atlas-QnA-AA.

Where applicable, that cost model includes standard input pricing, discounted cached-input pricing, separate cache-write charges, and output pricing rather than treating all prompt tokens as if they were billed at the same uncached input rate.

It is intended to show pay-per-token API cost, not consumer plan pricing or the full operational cost of deploying the system in production. Infrastructure, engineering, and supervision costs are not the focus of this metric.

Tempo de execução

Tempo de execução ativo do agente no Artificial Analysis Coding Agent Index.

Tempo por tarefa

Average agent wall time per task · Lower is better

Colorir por

This chart uses agent wall time: how long the agent process was actively running on each task.

It does not include environment startup, verifier or judge time, or other harness overhead, so it is a cleaner comparison of how long the agent itself was working.

Artificial Analysis Coding Agent Index vs. tempo de execução

Artificial Analysis Coding Agent Index vs. média do tempo de execução do agente por tarefa

Colorir por

Most attractive quadrant

Each point represents a coding-agent variant. Farther left means shorter average agent runtime per task, while higher on the chart means higher benchmark performance. Agents toward the upper-left deliver stronger results in less active agent time.

GitHub Copilot vs. Mirror

Coding Agent Index

Tempo por tarefa

Custo por tarefa

Comparação

Comparação de agentes de programação

Variantes de modelo

Variantes de modelo

Desempenho

Artificial Analysis Coding Agent Index

What This Metric Means

Artificial Analysis Coding Agent Index vs. custo por tarefa

How to Read This Chart

Uso de tokens

Uso de tokens por tarefa

Input Tokens

Artificial Analysis Coding Agent Index vs. tokens totais

How to Read This Chart

Custo

Custo por tarefa

What Cost Is Measuring

Tempo de execução

Tempo por tarefa

What Execution Time Is Measuring

Artificial Analysis Coding Agent Index vs. tempo de execução

How to Read This Chart