GPT-6.1 Terra vs. Hermes 4 - Llama-3.1 405B: comparação de lançamentos

Name: Inteligência
Creator: Artificial Analysis
License: https://artificialanalysis.ai/docs/legal/Terms-of-Use.pdf

Comparação dos lançamentos GPT-6.1 Terra e Hermes 4 - Llama-3.1 405B: 6 e 2 modelos, respectivamente, cada um com diferentes características de inteligência, desempenho e preço. Abaixo, comparamos as principais métricas dos 8 modelos.

Playground de modelos

Lançamentos comparados


	GPT-6.1 Terra (max)	GPT-6.1 Terra (xhigh)	GPT-6.1 Terra (high)	GPT-6.1 Terra (medium)	GPT-6.1 Terra (non-reasoning)	GPT-6.1 Terra (low)	Hermes 4 405B	Hermes 4 405B (non-reasoning)
Intelligence Index	51	45	42	38	31	29	--	--
Finanças e Contabilidade	49	48	44	42	34	38	--	--
Estratégia e Operações	50	49	47	45	40	42	--	--
Jurídico	46	44	42	40	28	37	--	--
Saúde e Medicina	45	--	--	--	--	--	--	--
Engenharia	55	49	46	43	33	35	--	--
Economia	48	46	43	41	32	36	--	--
AA-Briefcase v1.1	1401	1334	1265	1191	1226	1032	--	--
AutomationBench-AA	60.2%	59.9%	58.5%	57.8%	51.0%	56.2%	--	--
Terminal-Bench 4.0	55.6%	46.5%	41.9%	32.3%	26.8%	15.2%	--	--
FrontierCode-AA 2.0	42.3%	36.9%	37.5%	34.5%	33.4%	24.5%	--	--
AA-Omniscience v1.1	30	29	28	27	−5	23	--	--
GDP.pdf	28.6%	26.6%	28.0%	28.4%	23.2%	25.6%	--	--
HLE-Diamond	47.3%	42.3%	35.4%	31.3%	14.5%	24.9%	--	--
CritPt v2 (Hard Subset)	68.0%	60.5%	61.5%	56.5%	33.5%	50.5%	--	--
Terminal-Bench-Science 0.1	57.6%	41.9%	33.3%	24.8%	24.3%	7.6%	--	--

Custo por tarefaUSD	$0.96	$0.40	$0.26	$0.17	$0.23	$0.0713	--	--
Preço de entradaUSD/1M tokens	$1.00	$1.00	$1.00	$1.00	$1.00	$1.00	$1.00	$1.00
Preço de saídaUSD/1M tokens	$5.00	$5.00	$5.00	$5.00	$5.00	$5.00	$3.00	$3.00
Preço de acerto do cacheUSD/1M tokens	$0.05	$0.05	$0.05	$0.05	$0.05	$0.05	--	--
Preço de escrita no cacheUSD/1M tokens	$1.25	$1.25	$1.25	$1.25	$1.25	$1.25	--	--

Tempo por tarefaMinutos	14.5	6.7	4.4	2.9	2.5	1.2	--	--
Velocidade de saídatok/s	69	66	64	62	64	61	38	33
Tempo até o primeiro token da resposta finals	186.94	37.46	13.58	5.36	2.28	2.86	19.10	5.13
Tempo até o primeiro tokens	186.94	37.46	13.58	5.36	2.28	2.86	5.44	5.13
Tempo de ponta a pontaMédia das cargas de solicitação única (s)	400.62	102.06	51.05	33.11	25.93	22.81	59.94	36.82

Janela de contexto	1M	1M	1M	1M	1M	1M	128k	128k
Criador	OpenAI	OpenAI	OpenAI	OpenAI	OpenAI	OpenAI	Nous Research	Nous Research
Licença	Proprietário	Proprietário	Proprietário	Proprietário	Proprietário	Proprietário	Aberto	Aberto
Modalidade de entrada	Compatível com: texto e imagem	Compatível com: texto e imagem	Compatível com: texto e imagem	Compatível com: texto e imagem	Compatível com: texto e imagem	Compatível com: texto e imagem	Compatível com: texto	Compatível com: texto
Modalidade de saída	Compatível com: texto	Compatível com: texto	Compatível com: texto	Compatível com: texto	Compatível com: texto	Compatível com: texto	Compatível com: texto	Compatível com: texto
Provedores

Updated

Inteligência

Artificial Analysis Intelligence Index · Higher is better

Tempo por tarefa

Inference time (minutes) per Intelligence Index task · Lower is better

Custo por tarefa

Weighted average cost (USD) per Intelligence Index task · Lower is better

InteligênciaUpdated

Artificial Analysis Intelligence Index

Artificial Analysis Intelligence Index v5.0.1 incorporates 9 evaluations: AA-Briefcase v1.1, AutomationBench-AA, Terminal-Bench 4.0, FrontierCode-AA 2.0, AA-Omniscience v1.1, GDP.pdf, HLE-Diamond, CritPt v2 (Hard Subset), and Terminal-Bench-Science 0.1

Artificial Analysis Intelligence Index v5.0.1 includes: AA-Briefcase v1.1, AutomationBench-AA, Terminal-Bench 4.0, FrontierCode-AA 2.0, AA-Omniscience v1.1, GDP.pdf, HLE-Diamond, CritPt v2 (Hard Subset), Terminal-Bench-Science 0.1. See Intelligence Index methodology for further details, including a breakdown of each evaluation and how we run them.

Intelligence Index vs. custo por tarefa

Artificial Analysis Intelligence Index · Weighted average cost (USD) per Artificial Analysis Intelligence Index task

Most attractive quadrant

GPT-6.1 Terra

Pareto line

AA-Briefcase v1.1

AutomationBench-AA

Custo por tarefa (USD, escala logarítmica)

Weighted average cost per Intelligence Index task. Each evaluation’s cost is calculated from input, cache hit, cache write, reasoning, and answer token prices, divided by task count, and weighted by its Intelligence Index weight.

Custo

Custo por tarefa do Intelligence Index

Weighted average cost (USD) per Intelligence Index task · Segmented by token type · Lower is better

Desempenho

Tempo por tarefa do Intelligence Index

Output tokens divided by end-to-end output speed (minutes per Intelligence Index task) · Speed at the model's own endpoint or the median across providers · Lower is better

The weighted average time (minutes) per Artificial Analysis Intelligence Index task: output tokens per task divided by output speed, weighted by each benchmark's weight in the Intelligence Index.

Speed and latency metrics average each endpoint's runs over the past 5 days, and the error rate pools them. We run the benchmark every 6 hours, and endpoints of deprecated models every 18 hours.

Pontuações de capacidades

Índices de capacidades

Mede o desempenho dos modelos em capacidades e setores específicos

Finance & Accounting Index

Incorporates 5 evaluations: AA-Briefcase v1.1, AA-Omniscience v1.1, HLE-Diamond, AutomationBench-AA, GDP.pdf · Higher is better

Strategy & Ops Index

Incorporates 4 evaluations: AutomationBench-AA, AA-Briefcase v1.1, AA-Omniscience v1.1, GDP.pdf · Higher is better

Legal Index

Incorporates 5 evaluations: AA-Omniscience v1.1, AA-Briefcase v1.1, HLE-Diamond, GDP.pdf, AutomationBench-AA · Higher is better

Healthcare & Medical Index

Incorporates 5 evaluations: AA-Omniscience v1.1, AA-Briefcase v1.1, MLCR-AA, AutomationBench-AA, HLE-Diamond · Higher is better

Engineering Index

Incorporates 7 evaluations: AA-Omniscience v1.1, CritPt v2 (Hard Subset), Terminal-Bench-Science 0.1, HLE-Diamond, Terminal-Bench 4.0, FrontierCode-AA 2.0, AA-Briefcase v1.1 · Higher is better

Economics Index

Incorporates 4 evaluations: AA-Omniscience v1.1, AA-Briefcase v1.1, HLE-Diamond, GDP.pdf · Higher is better

GPT-6.1 Terra vs. Hermes 4 - Llama-3.1 405B: comparação de lançamentos

Inteligência

Tempo por tarefa

Custo por tarefa

InteligênciaUpdated

Artificial Analysis Intelligence Index

Artificial Analysis Intelligence Index

Intelligence Index vs. custo por tarefa

Cost per Intelligence Index Task

Artificial Analysis Intelligence Index

Custo

Custo por tarefa do Intelligence Index

Cost per Intelligence Index Task

Desempenho

Tempo por tarefa do Intelligence Index

Time per Intelligence Index Task

Time Period

Pontuações de capacidades

Índices de capacidades