Devin Fusion CLIとGrok Build

Name: Coding Agent Index
Creator: Artificial Analysis
License: https://artificialanalysis.ai/docs/legal/Terms-of-Use.pdf

Devin Fusion CLIとGrok BuildをArtificial Analysis Coding Agent Indexのベンチマークスコア、コスト、実行時間、トークン使用量で比較します。

詳しい方法論は、方法論ページをご覧ください。

ほかの比較を見る

ハイライト

Updated

Coding Agent Index

Artificial Analysis Coding Agent Index v1.5 · Higher is better

タスクあたりの時間

Average agent wall time per task · Lower is better

タスクあたりのコスト

Average API cost per task (USD) · Lower is better

比較

Devin Fusion CLI と Grok Build の並列比較。

コーディングエージェント比較

指標	Devin Fusion CLI Claude Fable 5.1 XHigh + SWE-2 Medium	Grok Build Grok 4.6 (xhigh)	分析
エージェントハーネス	Devin Fusion CLI	Grok Build
代表モデル	Claude Fable 5.1 XHigh + SWE-2 Medium	Grok 4.6 (xhigh)
Coding Agent Index	62	47	Devin Fusion CLI は Grok Build よりCoding Agent Indexが高いです
DeepSWE v1.1	63%	65%	Grok Build は Devin Fusion CLI より DeepSWE v1.1 のスコアが高いです
Terminal-Bench 4.0	56%	18%	Devin Fusion CLI は Grok Build より Terminal-Bench 4.0 のスコアが高いです
SWE-Atlas-QnA	66%	58%	Devin Fusion CLI は Grok Build より SWE-Atlas-QnA のスコアが高いです
タスクあたりのコスト	$7.90	$3.57	Grok Build は Devin Fusion CLI よりタスクあたりのコストが低いです
タスクあたりの時間	35.8m	19.5m	Grok Build は Devin Fusion CLI よりタスクあたりの時間が短いです
タスクあたりのターン数	99.5	112.1	Devin Fusion CLI は Grok Build よりタスクあたりのターン数が少ないです
タスクあたりのトークン使用量	9.7M	5.5M	Grok Build は Devin Fusion CLI よりタスクあたりのトークン使用量が少ないです
キャッシュヒット率	96%	91%	Devin Fusion CLI は Grok Build よりキャッシュヒット率が高いです

モデルバリアント

Devin Fusion CLI と Grok Build の評価済みモデルバリアント。

モデルバリアント


Devin Fusion CLI	Claude Fable 5.1 XHigh + SWE-2 Medium	62	63%	56%	66%	$7.90	35.8m	9.7M
Devin Fusion CLI	GPT-6 Astra XHigh + SWE-2 Medium	59	67%	50%	59%	$4.54	24.7m	6.1M
Grok Build	Grok 4.6 (xhigh)	47	65%	18%	58%	$3.57	19.5m	5.5M

パフォーマンス

Artificial Analysis Coding Agent Indexにおけるパフォーマンス。

Artificial Analysis Coding Agent Index

Artificial Analysis Coding Agent Index v1.5 incorporates 3 benchmarks: DeepSWE v1.1, Terminal-Bench 4.0, and SWE-Atlas-QnA · Higher is better

Color by

The Artificial Analysis Coding Agent Index is a composite score built from DeepSWE v1.1, Terminal-Bench 4.0, and SWE-Atlas-QnA.

It is useful for quick comparison, but it should be read alongside the per-eval breakdowns. Two agents with similar index values can still have different strengths across repository tasks, terminal workflows, and rubric-based evaluations.

Artificial Analysis Coding Agent Index vs. タスクあたりのコスト

Artificial Analysis Coding Agent Index vs. タスクあたりの平均トークン従量課金APIコスト（USD）

Color by

Most attractive quadrant

Pareto line

Each point represents a coding-agent variant. Farther left means lower average cost per task, while higher on the chart means higher benchmark performance. The most efficient agents sit toward the upper-left: stronger results at lower cost.

トークン使用量

Artificial Analysis Coding Agent Indexにおけるトークン消費量。

タスクあたりのトークン使用量

タスクあたりの入力・キャッシュ・出力トークンの平均

Prompt cache hit rates can vary significantly by provider routing, which can materially change effective cost.

Non-cached input tokens sent to the model, including prompts, instructions, tool context, and task context that were not served from prompt cache.

Artificial Analysis Coding Agent Index vs. 合計トークン

Artificial Analysis Coding Agent Index vs. タスクあたりの平均合計トークン

Color by

Most attractive quadrant

Each point represents a coding-agent variant. Farther left means lower average total token usage per task, while higher on the chart means higher benchmark performance. Agents toward the upper-left achieve stronger results with fewer tokens.

コスト

現在のトークン単位の価格に基づく、Artificial Analysis Coding Agent Indexのトークン従量課金APIコスト。

タスクあたりのコスト

Average pay-per-token API cost per task (USD) · Lower is better

Color by

This chart shows the average pay-per-token API cost per task across the Artificial Analysis Coding Agent Index, spanning DeepSWE v1.1, Terminal-Bench 4.0, and SWE-Atlas-QnA.

Where applicable, that cost model includes standard input pricing, discounted cached-input pricing, separate cache-write charges, and output pricing rather than treating all prompt tokens as if they were billed at the same uncached input rate.

It is intended to show pay-per-token API cost, not consumer plan pricing or the full operational cost of deploying the system in production. Infrastructure, engineering, and supervision costs are not the focus of this metric.

実行時間

Artificial Analysis Coding Agent Indexにおけるエージェントの実稼働時間。

タスクあたりの時間

Average agent wall time per task · Lower is better

Color by

This chart uses agent wall time: how long the agent process was actively running on each task.

It does not include environment startup, verifier or judge time, or other harness overhead, so it is a cleaner comparison of how long the agent itself was working.

Artificial Analysis Coding Agent Index vs. 実行時間

Artificial Analysis Coding Agent Index vs. タスクあたりの平均エージェント稼働時間

Color by

Most attractive quadrant

Each point represents a coding-agent variant. Farther left means shorter average agent runtime per task, while higher on the chart means higher benchmark performance. Agents toward the upper-left deliver stronger results in less active agent time.

Devin Fusion CLIとGrok Build

Coding Agent Index

タスクあたりの時間

タスクあたりのコスト

比較

コーディングエージェント比較

モデルバリアント

モデルバリアント

パフォーマンス

Artificial Analysis Coding Agent Index

What This Metric Means

Artificial Analysis Coding Agent Index vs. タスクあたりのコスト

How to Read This Chart

トークン使用量

タスクあたりのトークン使用量

Input Tokens

Artificial Analysis Coding Agent Index vs. 合計トークン

How to Read This Chart

コスト

タスクあたりのコスト

What Cost Is Measuring

実行時間

タスクあたりの時間

What Execution Time Is Measuring

Artificial Analysis Coding Agent Index vs. 実行時間

How to Read This Chart