Clef: lançamento, pontuação no Decision Index, desempenho e preço

Resumo do modelo

49
Artificial Analysis Decision Index
1 de 4 unidades para Decision Index.

Tempo

309 ms
Tempo mediano por tarefa
4 de 4 unidades para Tempo.

Custo

$199
Custo por 1 milhão de tarefas (USD)
4 de 4 unidades para Custo.

Pontuação

Artificial Analysis Decision Index

Weighted average of AA-Omniscience-Decision, HLE-MultiChoice, When2Call and WildGuardTest · Higher is better

Artificial Analysis Decision Index vs. custo por 1 milhão de tarefas

Artificial Analysis Decision Index score vs. average cost per 1 million tasks (USD) · Lower is better
Most attractive quadrant
Pareto line

Calibração

Artificial Analysis Decision Index: calibração

Acurácia em relação à probabilidade que o modelo atribuiu à resposta escolhida · Intervalos de 0,1 com pelo menos 20 respostas · Cada benchmark com o mesmo peso

A calibração para modelos de linguagem chegará em breve.

Tempo

Artificial Analysis Decision Index: tempo por tarefa

Median time per task over every task across all Artificial Analysis Decision Index evaluations · Lower is better

Custo

Artificial Analysis Decision Index: custo por 1 milhão de tarefas

Average cost per 1 million tasks across all Artificial Analysis Decision Index evaluations at current prices (USD) · Lower is better