DeepSeek Harness vs. GitHub Copilot

Name: Coding Agent Index
Creator: Artificial Analysis
License: https://artificialanalysis.ai/docs/legal/Terms-of-Use.pdf

Comparação entre DeepSeek Harness e GitHub Copilot no Artificial Analysis Coding Agent Index, incluindo pontuações de benchmarks, custo, tempo de execução e uso de tokens.

Para saber mais sobre nossa metodologia, consulte a página de metodologia.

Explore outras comparações

Coding Agent Index

Artificial Analysis Coding Agent Index v2.0 · Higher is better

Tempo por tarefa

Average agent wall time per task · Lower is better

Custo por tarefa

Average API cost per task (USD) · Lower is better

Comparação

Comparação lado a lado de DeepSeek Harness e GitHub Copilot.

Comparação de agentes de programação

Métrica	DeepSeek Harness DeepSeek V4.1 Flash 1017 (Max)	GitHub Copilot Copilot Fusion (Max)	Análise
Harness do agente	DeepSeek Harness	GitHub Copilot
Modelo representativo	DeepSeek V4.1 Flash 1017 (Max)	Copilot Fusion (Max)
Coding Agent Index	46	60	GitHub Copilot tem um Coding Agent Index mais alto que DeepSeek Harness
FrontierCode v1.1	47%	51%	GitHub Copilot tem uma pontuação mais alta em FrontierCode v1.1 que DeepSeek Harness
Terminal-Bench 4.0	31%	71%	GitHub Copilot tem uma pontuação mais alta em Terminal-Bench 4.0 que DeepSeek Harness
SWE-Atlas-QnA-AA	62%	57%	DeepSeek Harness tem uma pontuação mais alta em SWE-Atlas-QnA-AA que GitHub Copilot
Custo por tarefa	US$ 0,30	US$ 5,59	DeepSeek Harness tem um custo por tarefa mais baixo que GitHub Copilot
Tempo por tarefa	21,4 min	36,1 min	DeepSeek Harness tem um tempo por tarefa mais baixo que GitHub Copilot
Turnos por tarefa	101,5	171	DeepSeek Harness tem menos turnos por tarefa que GitHub Copilot
Uso de tokens por tarefa	16,7 mi	7,3 mi	GitHub Copilot tem um uso de tokens por tarefa mais baixo que DeepSeek Harness
Taxa de acertos de cache	97%	97%	GitHub Copilot tem uma taxa de acertos de cache mais alta que DeepSeek Harness

Variantes de modelo

Variantes de modelo avaliadas para DeepSeek Harness e GitHub Copilot.

Variantes de modelo


DeepSeek Harness	DeepSeek V4.1 Flash 1017 (Max)	46	47%	31%	62%	US$ 0,30	21,4 min	16,7 mi
GitHub Copilot	Copilot Fusion (Max)	60	51%	71%	57%	US$ 5,59	36,1 min	7,3 mi

Desempenho

Desempenho no Artificial Analysis Coding Agent Index.

Artificial Analysis Coding Agent Index

Artificial Analysis Coding Agent Index v2.0 incorporates 3 benchmarks: FrontierCode v1.1, Terminal-Bench 4.0, and SWE-Atlas-QnA-AA · Higher is better

Colorir por

The Artificial Analysis Coding Agent Index is a composite score built from FrontierCode v1.1, Terminal-Bench 4.0 e SWE-Atlas-QnA-AA.

It is useful for quick comparison, but it should be read alongside the per-eval breakdowns. Two agents with similar index values can still have different strengths across repository tasks, terminal workflows, and rubric-based evaluations.

Artificial Analysis Coding Agent Index vs. custo por tarefa

Artificial Analysis Coding Agent Index vs. média do custo da API de pagamento por token por tarefa (USD)

Colorir por

Most attractive quadrant

Pareto line

Each point represents a coding-agent variant. Farther left means lower average cost per task, while higher on the chart means higher benchmark performance. The most efficient agents sit toward the upper-left: stronger results at lower cost.

Uso de tokens

Consumo de tokens no Artificial Analysis Coding Agent Index.

Uso de tokens por tarefa

Média de tokens de entrada, cache e saída por tarefa

As taxas de acerto do cache de prompts podem variar significativamente conforme o roteamento do provedor, alterando materialmente o custo efetivo.

Non-cached input tokens sent to the model, including prompts, instructions, tool context, and task context that were not served from prompt cache.

Artificial Analysis Coding Agent Index vs. tokens totais

Artificial Analysis Coding Agent Index vs. média de tokens totais por tarefa

Colorir por

Most attractive quadrant

Each point represents a coding-agent variant. Farther left means lower average total token usage per task, while higher on the chart means higher benchmark performance. Agents toward the upper-left achieve stronger results with fewer tokens.

Custo

Custo da API de pagamento por token no Artificial Analysis Coding Agent Index, com base nos preços atuais por token.

Custo por tarefa

Average pay-per-token API cost per task (USD) · Lower is better

Colorir por

This chart shows the average pay-per-token API cost per task across the Artificial Analysis Coding Agent Index, spanning FrontierCode v1.1, Terminal-Bench 4.0 e SWE-Atlas-QnA-AA.

Where applicable, that cost model includes standard input pricing, discounted cached-input pricing, separate cache-write charges, and output pricing rather than treating all prompt tokens as if they were billed at the same uncached input rate.

It is intended to show pay-per-token API cost, not consumer plan pricing or the full operational cost of deploying the system in production. Infrastructure, engineering, and supervision costs are not the focus of this metric.

Tempo de execução

Tempo de execução ativo do agente no Artificial Analysis Coding Agent Index.

Tempo por tarefa

Average agent wall time per task · Lower is better

Colorir por

This chart uses agent wall time: how long the agent process was actively running on each task.

It does not include environment startup, verifier or judge time, or other harness overhead, so it is a cleaner comparison of how long the agent itself was working.

Artificial Analysis Coding Agent Index vs. tempo de execução

Artificial Analysis Coding Agent Index vs. média do tempo de execução do agente por tarefa

Colorir por

Most attractive quadrant

Each point represents a coding-agent variant. Farther left means shorter average agent runtime per task, while higher on the chart means higher benchmark performance. Agents toward the upper-left deliver stronger results in less active agent time.

DeepSeek Harness vs. GitHub Copilot

Coding Agent Index

Tempo por tarefa

Custo por tarefa

Comparação

Comparação de agentes de programação

Variantes de modelo

Variantes de modelo

Desempenho

Artificial Analysis Coding Agent Index

What This Metric Means

Artificial Analysis Coding Agent Index vs. custo por tarefa

How to Read This Chart

Uso de tokens

Uso de tokens por tarefa

Input Tokens

Artificial Analysis Coding Agent Index vs. tokens totais

How to Read This Chart

Custo

Custo por tarefa

What Cost Is Measuring

Tempo de execução

Tempo por tarefa

What Execution Time Is Measuring

Artificial Analysis Coding Agent Index vs. tempo de execução

How to Read This Chart