GLM-5.3 vs. Hermes 4 - Llama-3.1 405B: comparação de lançamentos

Name: Inteligência
Creator: Artificial Analysis
License: https://artificialanalysis.ai/docs/legal/Terms-of-Use.pdf

Comparação dos lançamentos GLM-5.3 e Hermes 4 - Llama-3.1 405B: 2 e 2 modelos, respectivamente, cada um com diferentes características de inteligência, desempenho e preço. Abaixo, comparamos as principais métricas dos 4 modelos.

Playground de modelos

Lançamentos comparados


	GLM-5.3 (max)	GLM-5.3 (low)	Hermes 4 405B	Hermes 4 405B (non-reasoning)
Intelligence Index	32	23	--	--
Finanças e Contabilidade	42	31	--	--
Estratégia e Operações	47	38	--	--
Jurídico	36	28	--	--
Saúde e Medicina	39	31	--	--
Engenharia	38	28	--	--
Economia	39	30	--	--
AA-Briefcase v1.1	1503	1185	--	--
AutomationBench-AA	62.2%	52.0%	--	--
Terminal-Bench 4.0	41.9%	34.8%	--	--
FrontierCode 2.0	21.6%	12.7%	--	--
AA-Omniscience v1.1	6	−11	--	--
GDP.pdf	11.2%	8.8%	--	--
HLE-Diamond	17.9%	17.5%	--	--
CritPt v2 (Hard Subset)	33.5%	21.5%	--	--
Terminal-Bench-Science 0.1	9.5%	3.8%	--	--

Custo por tarefaUSD	$5.01	$1.57	--	--
Preço de entradaUSD/1M tokens	$1.40	$1.40	$1.00	$1.00
Preço de saídaUSD/1M tokens	$4.40	$4.40	$3.00	$3.00
Preço de acerto do cacheUSD/1M tokens	$0.26	$0.26	--	--
Preço de escrita no cacheUSD/1M tokens	--	--	--	--

Tempo por tarefaMinutos	29,1	14,5	--	--
Velocidade de saídatok/s	68	60	29	27
Tempo até o primeiro token da resposta finals	70,75	8,05	20,97	5,28
Tempo até o primeiro tokens	3,21	3,18	5,31	5,28
Tempo de ponta a pontaMédia das cargas de solicitação única (s)	172,99	47,65	76,82	51,11

Janela de contexto	1M	1M	128k	128k
Criador	Z AI	Z AI	Nous Research	Nous Research
Licença	Aberto	Aberto	Aberto	Aberto
Modalidade de entrada	Compatível com: texto	Compatível com: texto	Compatível com: texto	Compatível com: texto
Modalidade de saída	Compatível com: texto	Compatível com: texto	Compatível com: texto	Compatível com: texto
Provedores	+19	+3

Updated

Inteligência

Artificial Analysis Intelligence Index · Higher is better

Tempo por tarefa

Inference time (minutes) per Intelligence Index task · Lower is better

Custo por tarefa

Weighted average cost (USD) per Intelligence Index task · Lower is better

InteligênciaUpdated

Artificial Analysis Intelligence Index

Artificial Analysis Intelligence Index v5.0.1 incorporates 9 evaluations: AA-Briefcase v1.1, AutomationBench-AA, Terminal-Bench 4.0, FrontierCode 2.0, AA-Omniscience v1.1, GDP.pdf, HLE-Diamond, CritPt v2 (Hard Subset), and Terminal-Bench-Science 0.1

Artificial Analysis Intelligence Index v5.0.1 includes: AA-Briefcase v1.1, AutomationBench-AA, Terminal-Bench 4.0, FrontierCode 2.0, AA-Omniscience v1.1, GDP.pdf, HLE-Diamond, CritPt v2 (Hard Subset), Terminal-Bench-Science 0.1. See Intelligence Index methodology for further details, including a breakdown of each evaluation and how we run them.

Intelligence Index vs. custo por tarefa

Artificial Analysis Intelligence Index · Weighted average cost (USD) per Artificial Analysis Intelligence Index task

Most attractive quadrant

GLM-5.3

Pareto line

AA-Briefcase v1.1

AutomationBench-AA

Custo por tarefa (USD, escala logarítmica)

Weighted average cost per Intelligence Index task. Each evaluation’s cost is calculated from input, cache hit, cache write, reasoning, and answer token prices, divided by task count, and weighted by its Intelligence Index weight.

Custo

Custo por tarefa do Intelligence Index

Weighted average cost (USD) per Intelligence Index task · Segmented by token type · Lower is better

Velocidade e latência

Tempo por tarefa do Intelligence Index

Output tokens divided by end-to-end output speed (minutes per Intelligence Index task) · Speed at the model's own endpoint or the median across providers · Lower is better

The weighted average time (minutes) per Artificial Analysis Intelligence Index task: output tokens per task divided by output speed, weighted by each benchmark's weight in the Intelligence Index.

Speed and latency metrics average each endpoint's runs over the past 5 days, and the error rate pools them. We run the benchmark every 6 hours, and endpoints of deprecated models every 18 hours.

Pontuações de capacidades

Índices de capacidades

Mede o desempenho dos modelos em capacidades e setores específicos

Finance & Accounting Index

Incorporates 5 evaluations: AA-Briefcase v1.1, AA-Omniscience v1.1, HLE-Diamond, AutomationBench-AA, GDP.pdf · Higher is better

Strategy & Ops Index

Incorporates 4 evaluations: AutomationBench-AA, AA-Briefcase v1.1, AA-Omniscience v1.1, GDP.pdf · Higher is better

Legal Index

Incorporates 5 evaluations: AA-Omniscience v1.1, AA-Briefcase v1.1, HLE-Diamond, GDP.pdf, AutomationBench-AA · Higher is better

Healthcare & Medical Index

Incorporates 5 evaluations: AA-Omniscience v1.1, AA-Briefcase v1.1, MLCR-AA, AutomationBench-AA, HLE-Diamond · Higher is better

Engineering Index

Incorporates 7 evaluations: AA-Omniscience v1.1, CritPt v2 (Hard Subset), Terminal-Bench-Science 0.1, HLE-Diamond, Terminal-Bench 4.0, FrontierCode 2.0, AA-Briefcase v1.1 · Higher is better

Economics Index

Incorporates 4 evaluations: AA-Briefcase v1.1, AA-Omniscience v1.1, HLE-Diamond, GDP.pdf · Higher is better

Avaliações

AA-PersonalityBenchNew

Índices de personalidade

Cada eixo é um dos 8 índices de personalidade: a média dos escores z de Elo dos seus traços, com ranking percentil de 1 a 100 entre todos os modelos avaliados no benchmark

GLM-5.3 vs. Hermes 4 - Llama-3.1 405B: comparação de lançamentos

Inteligência

Tempo por tarefa

Custo por tarefa

InteligênciaUpdated

Artificial Analysis Intelligence Index

Artificial Analysis Intelligence Index

Intelligence Index vs. custo por tarefa

Cost per Intelligence Index Task

Artificial Analysis Intelligence Index

Custo

Custo por tarefa do Intelligence Index

Cost per Intelligence Index Task

Velocidade e latência

Tempo por tarefa do Intelligence Index

Time per Intelligence Index Task

Time Period

Pontuações de capacidades

Índices de capacidades

Avaliações

AA-PersonalityBenchNew

Índices de personalidade