Institute of Foundation Models: inteligência, desempenho e preço dos modelos

Institute of Foundation Models oferece 1 modelo que acompanhamos: K2 Horizon 375B A23B.

O modelo mais inteligente disponível em Institute of Foundation Models é K2 Horizon 375B A23B, com 18 pontos no Intelligence Index.

O modelo com o menor tempo por tarefa em Institute of Foundation Models é K2 Horizon 375B A23B, com 4.8 minutos por tarefa do Intelligence Index. O tempo por tarefa é o número de tokens de saída por tarefa dividido pela velocidade de saída de ponta a ponta; um valor menor significa que a tarefa termina mais cedo.

O modelo com o menor tempo até o primeiro token da resposta final em Institute of Foundation Models é K2 Horizon 375B A23B, com 21.23s. Uma latência menor significa um tempo de resposta inicial mais rápido.

O modelo mais acessível em preço combinado oferecido por Institute of Foundation Models é K2 Horizon 375B A23B, com $0.00 por 1M de tokens (proporção de 7:2:1 entre tokens de acerto do cache, entrada e saída).

Sim. Institute of Foundation Models oferece uma API compatível com a OpenAI, facilitando a migração da OpenAI e o uso de integrações existentes com o SDK da OpenAI.

Sim. Todos os 1 modelos oferecidos por Institute of Foundation Models são compatíveis com o modo JSON para saída estruturada.

Sim. Todos os 1 modelos oferecidos por Institute of Foundation Models são compatíveis com chamadas de funções (uso de ferramentas).

Sim. Institute of Foundation Models oferece 1 modelo de raciocínio: K2 Horizon 375B A23B. Os modelos de raciocínio usam um processo de reflexão prolongado para resolver problemas complexos antes de responder.

Sim. Todos os 1 modelos oferecidos por Institute of Foundation Models são de pesos abertos.

Sim. O desempenho de um provedor pode variar ao longo do tempo devido a mudanças na infraestrutura, balanceamento de carga e atualizações. Avaliamos continuamente todos os provedores e exibimos as tendências históricas de desempenho nos gráficos de evolução ao longo do tempo.

Ao escolher um modelo oferecido por Institute of Foundation Models, considere a inteligência (para tarefas que exigem qualidade), o tempo por tarefa (a rapidez com que o modelo conclui uma tarefa do Intelligence Index), a latência (para aplicações interativas que precisam de respostas iniciais rápidas), o preço (para cargas de trabalho atentas aos custos) e recursos como tamanho da janela de contexto, modo JSON e chamadas de funções.