Codex vs. Devin Fusion CLI

Name: Coding Agent Index
Creator: Artificial Analysis
License: https://artificialanalysis.ai/docs/legal/Terms-of-Use.pdf

Vergleich von Codex und Devin Fusion CLI im Artificial Analysis Coding Agent Index, einschließlich Benchmark-Werten, Kosten, Ausführungszeit und Tokenverbrauch.

Einzelheiten zu unserer Methodik finden Sie auf unserer Methodikseite.

Weitere Vergleiche entdecken

Wichtigste Ergebnisse

Updated

Coding Agent Index

Artificial Analysis Coding Agent Index v1.5 · Higher is better

Zeit pro Aufgabe

Average agent wall time per task · Lower is better

Kosten pro Aufgabe

Average API cost per task (USD) · Lower is better

Vergleich

Direkter Vergleich von Codex und Devin Fusion CLI.

Programmieragenten-Vergleich

Metrik	Codex GPT-6 Astra (max)	Devin Fusion CLI Claude Fable 5.1 XHigh + SWE-2 Medium	Analyse
Agent-Harness	Codex	Devin Fusion CLI
Repräsentatives Modell	GPT-6 Astra (max)	Claude Fable 5.1 XHigh + SWE-2 Medium
Coding Agent Index	62	62	Devin Fusion CLI hat einen höheren Coding Agent Index als Codex
DeepSWE v1.1	68%	63%	Codex hat einen höheren DeepSWE v1.1-Wert als Devin Fusion CLI
Terminal-Bench 4.0	56%	56%	Devin Fusion CLI hat einen höheren Terminal-Bench 4.0-Wert als Codex
SWE-Atlas-QnA	62%	66%	Devin Fusion CLI hat einen höheren SWE-Atlas-QnA-Wert als Codex
Kosten pro Aufgabe	$7.47	$7.90	Codex hat geringere Kosten pro Aufgabe als Devin Fusion CLI
Zeit pro Aufgabe	29.4m	35.8m	Codex hat eine geringere Zeit pro Aufgabe als Devin Fusion CLI
Runden pro Aufgabe	39.4	99.5	Codex hat weniger Runden pro Aufgabe als Devin Fusion CLI
Token-Nutzung pro Aufgabe	3.3M	9.7M	Codex hat eine geringere Token-Nutzung pro Aufgabe als Devin Fusion CLI
Cache-Trefferquote	93%	96%	Devin Fusion CLI hat eine höhere Cache-Trefferquote als Codex

Modellvarianten

Bewertete Modellvarianten für Codex und Devin Fusion CLI.

Modellvarianten


Codex	GPT-6 Astra (max)	62	68%	56%	62%	$7.47	29.4m	3.3M
Codex	GPT-5.6 Sol (max)	55	72%	37%	54%	$6.58	20.6m	10.2M
Codex	DeepSeek V4 Pro 0813 (max)	43	57%	10%	62%	$0.24	40.3m	24.2M
Codex	DeepSeek V4 Flash 0731 (max)	39	54%	11%	51%	$0.08	18.3m	15.4M
Devin Fusion CLI	Claude Fable 5.1 XHigh + SWE-2 Medium	62	63%	56%	66%	$7.90	35.8m	9.7M
Devin Fusion CLI	GPT-6 Astra XHigh + SWE-2 Medium	59	67%	50%	59%	$4.54	24.7m	6.1M

Leistung

Leistung im Artificial Analysis Coding Agent Index.

Artificial Analysis Coding Agent Index

Artificial Analysis Coding Agent Index v1.5 incorporates 3 benchmarks: DeepSWE v1.1, Terminal-Bench 4.0, and SWE-Atlas-QnA · Higher is better

Color by

The Artificial Analysis Coding Agent Index is a composite score built from DeepSWE v1.1, Terminal-Bench 4.0, and SWE-Atlas-QnA.

It is useful for quick comparison, but it should be read alongside the per-eval breakdowns. Two agents with similar index values can still have different strengths across repository tasks, terminal workflows, and rubric-based evaluations.

Artificial Analysis Coding Agent Index vs. Kosten pro Aufgabe

Artificial Analysis Coding Agent Index vs. durchschnittliche Pay-per-Token-API-Kosten pro Aufgabe (USD)

Color by

Most attractive quadrant

Pareto line

Each point represents a coding-agent variant. Farther left means lower average cost per task, while higher on the chart means higher benchmark performance. The most efficient agents sit toward the upper-left: stronger results at lower cost.

Token-Nutzung

Token-Verbrauch im Artificial Analysis Coding Agent Index.

Token-Nutzung pro Aufgabe

Durchschnittliche Eingabe-, Cache- und Ausgabe-Tokens pro Aufgabe

Prompt cache hit rates can vary significantly by provider routing, which can materially change effective cost.

Non-cached input tokens sent to the model, including prompts, instructions, tool context, and task context that were not served from prompt cache.

Artificial Analysis Coding Agent Index vs. Gesamt-Tokens

Artificial Analysis Coding Agent Index vs. durchschnittliche Gesamt-Tokens pro Aufgabe

Color by

Most attractive quadrant

Each point represents a coding-agent variant. Farther left means lower average total token usage per task, while higher on the chart means higher benchmark performance. Agents toward the upper-left achieve stronger results with fewer tokens.

Kosten

Pay-per-Token-API-Kosten im Artificial Analysis Coding Agent Index, basierend auf den aktuellen Preisen pro Token.

Kosten pro Aufgabe

Average pay-per-token API cost per task (USD) · Lower is better

Color by

This chart shows the average pay-per-token API cost per task across the Artificial Analysis Coding Agent Index, spanning DeepSWE v1.1, Terminal-Bench 4.0, and SWE-Atlas-QnA.

Where applicable, that cost model includes standard input pricing, discounted cached-input pricing, separate cache-write charges, and output pricing rather than treating all prompt tokens as if they were billed at the same uncached input rate.

It is intended to show pay-per-token API cost, not consumer plan pricing or the full operational cost of deploying the system in production. Infrastructure, engineering, and supervision costs are not the focus of this metric.

Ausführungszeit

Aktive Agent-Laufzeit im Artificial Analysis Coding Agent Index.

Zeit pro Aufgabe

Average agent wall time per task · Lower is better

Color by

This chart uses agent wall time: how long the agent process was actively running on each task.

It does not include environment startup, verifier or judge time, or other harness overhead, so it is a cleaner comparison of how long the agent itself was working.

Artificial Analysis Coding Agent Index vs. Ausführungszeit

Artificial Analysis Coding Agent Index vs. durchschnittliche Agent-Laufzeit pro Aufgabe

Color by

Most attractive quadrant

Each point represents a coding-agent variant. Farther left means shorter average agent runtime per task, while higher on the chart means higher benchmark performance. Agents toward the upper-left deliver stronger results in less active agent time.

Codex vs. Devin Fusion CLI

Coding Agent Index

Zeit pro Aufgabe

Kosten pro Aufgabe

Vergleich

Programmieragenten-Vergleich

Modellvarianten

Modellvarianten

Leistung

Artificial Analysis Coding Agent Index

What This Metric Means

Artificial Analysis Coding Agent Index vs. Kosten pro Aufgabe

How to Read This Chart

Token-Nutzung

Token-Nutzung pro Aufgabe

Input Tokens

Artificial Analysis Coding Agent Index vs. Gesamt-Tokens

How to Read This Chart

Kosten

Kosten pro Aufgabe

What Cost Is Measuring

Ausführungszeit

Zeit pro Aufgabe

What Execution Time Is Measuring

Artificial Analysis Coding Agent Index vs. Ausführungszeit

How to Read This Chart