Grok Build: Wert im Coding Agent Index, Leistung und Preis

Leistung

Leistung im Artificial Analysis Coding Agent Index.

Artificial Analysis Coding Agent Index

Artificial Analysis Coding Agent Index v2.0 incorporates 3 benchmarks: FrontierCode v1.1, Terminal-Bench 4.0, and SWE-Atlas-QnA-AA · Higher is better
Färben nach

Artificial Analysis Coding Agent Index vs. Kosten pro Aufgabe

Artificial Analysis Coding Agent Index vs. durchschnittliche Pay-per-Token-API-Kosten pro Aufgabe (USD)
Färben nach
Most attractive quadrant
Pareto line

Token-Nutzung

Token-Verbrauch im Artificial Analysis Coding Agent Index, einschließlich Gesamtnutzung, Token-Verteilung, Effizienz und Aufschlüsselungen pro Benchmark.

Token-Nutzung pro Aufgabe

Durchschnittliche Eingabe-, Cache- und Ausgabe-Tokens pro Aufgabe
Die Trefferquoten des Prompt-Caches können je nach Anbieter-Routing erheblich variieren und dadurch die effektiven Kosten deutlich verändern.

Artificial Analysis Coding Agent Index vs. Gesamt-Tokens

Artificial Analysis Coding Agent Index vs. durchschnittliche Gesamt-Tokens pro Aufgabe
Färben nach
Most attractive quadrant

Kosten

Kosten im Artificial Analysis Coding Agent Index basierend auf den aktuellen API-Preisen pro Token, einschließlich Cache-Schreibpreisen und Cache-Rabatten, sofern verfügbar. Viele Nutzer greifen über Abo-Angebote statt über Pay-per-Token auf Programmieragenten-Harnesses zu.

Kosten pro Aufgabe

Average pay-per-token API cost per task (USD) · Lower is better
Färben nach

Ausführungszeit

Aktive Agent-Laufzeit im Artificial Analysis Coding Agent Index.

Zeit pro Aufgabe

Average agent wall time per task · Lower is better
Färben nach

Artificial Analysis Coding Agent Index vs. Ausführungszeit

Artificial Analysis Coding Agent Index vs. durchschnittliche Agent-Laufzeit pro Aufgabe
Färben nach
Most attractive quadrant

Sicherheitsverweigerungen

Wie oft Anbieter oder Modell die weitere Bearbeitung einer Aufgabe aus Sicherheitsgründen verweigern, im Artificial Analysis Coding Agent Index.

Rate der Sicherheitsverweigerungen

Share of retained task attempts with a safety refusal · Equal weight per benchmark · Lower is better
Aufschlüsseln nach
Sicherheits- und Fallback-Verhalten wird vom Anbieter konfiguriert und kann sich im Laufe der Zeit ändern; diese Werte geben das zum Zeitpunkt des Benchmarkings erfasste Verhalten wieder.

Reward Hacking

Anteil der Aufgabenversuche, die sonst bestanden hätten, aber wegen eines Integritätsverstoßes mit null bewertet werden.

Reward-Hacking-Rate: FrontierCode v1.1

Share of task attempts scored zero for reward hacking · Verwendet eine modifizierte Version des regelbasierten Scanners von Cognition, um unzulässigen Zugriff auf Lösungsmaterial zu erkennen · Lower is better
Färben nach