Question 1

DeepInfra에서 어떤 모델을 제공하나요?

Accepted Answer

DeepInfra에서 추적 중인 모델 107개를 제공합니다: MiMo-V2.6-Pro, DeepSeek V4.1 Flash 1017 (max), GLM-5.3 (max), GLM-5.3-Flash, Ling 3.1 Flash, Qwen3.8 2.4T A95B, DeepSeek V4.1 Flash (max), MiMo-V2.6-Flash, DeepSeek V4 Pro 0813 (max), DeepSeek V4 Flash Vision (max), DeepSeek V4 Flash 0731 (max), GLM-5.2 (max) (FP4), Qwen3.8 27B (xhigh), DeepSeek V4 Pro (max) (FP4), MiniMax-M3, GLM-5 (FP4), Kimi K2.6 (FP4), GLM-5.1 (FP4), MiMo-V2.5-Pro, Kimi K2.7 Code, Inkling Small, Hy3 (FP8), Inkling (xhigh) (FP8), GLM-5.1 (non-reasoning) (FP4), DeepSeek V4 Flash (max) (FP4), Kimi K2.6 (non-reasoning) (FP4), Kimi K2.5, Nemotron 3 Ultra, Nemotron 3 Ultra BF16, Qwen3.5 27B (FP8), MiniMax-M2.5 (FP8), GLM-4.7 (FP4), MiMo-V2.5, GLM-5 (non-reasoning) (FP8), DeepSeek V3.2 (FP4), Qwen3.5 397B A17B (non-reasoning) (FP8), Qwen3.6 27B FP8, Ling 3.0 Flash, Qwen3.6 27B (non-reasoning) FP8, Step 3.7 Flash, Qwen3.5 27B (non-reasoning) FP8, Qwen3.5 35B A3B (FP8), GLM-4.6 (FP4), Qwen3.5 397B A17B (FP8), MiMo-V2.5-Pro (non-reasoning), Qwen3.6 35B A3B (FP8), Qwen3.5 122B A10B (non-reasoning) (FP4), Muse Glimmer (high), GLM-4.7 (non-reasoning) (FP4), Gemma 4 26B A4B (FP8), DeepSeek V3.2 (non-reasoning), Qwen3.5 122B A10B (FP4), Qwen3.6 35B A3B (non-reasoning) (FP8), Qwen3.5 35B A3B (non-reasoning) FP8, GLM-4.7-Flash, Gemma 4 31B, DeepSeek V3.1 Terminus (non-reasoning) (FP4), Gemma 4 31B (non-reasoning) (FP8), DeepSeek V3.1 (non-reasoning) (FP4), Gemma 4 26B A4B (non-reasoning) (FP8), Qwen3.5 4B (FP8), DeepSeek R1 0528, Nemotron 3.5 Lightning (NVFP4), Nemotron 3 Super, Qwen3 235B A22B 2507 (FP8), Granite 4.2 30B, Qwen3 235B 2507 (FP8), Qwen3 Coder 480B (Turbo, FP4), gpt-oss-120b (high) (Turbo), gpt-oss-120b (high), Granite 4.2 8B, Qwen3.5 4B (non-reasoning) FP8, gpt-oss-120b (low), DeepSeek V3 0324 (FP4), Qwen3 Next 80B A3B, Llama 4 Maverick (FP8), Granite 4.2 3B, gpt-oss-20b (high), Gemma 4 E4B, Nemotron 3 Nano, DeepSeek V3 (Dec), Qwen2.5 72B, Llama 3.3 70B (Turbo, FP8), Qwen3 30B (FP8), Gemma 4 E4B (non-reasoning), NVIDIA Nemotron Nano 9B V2, Qwen3 32B (non-reasoning) (FP8), Qwen3 32B (FP8), Mistral Small 3.1, Mistral Small 3.2 (FP8), Llama 3.1 8B (Turbo, FP8), Llama 3.1 8B, Nemotron 3 Nano (non-reasoning), NVIDIA Nemotron Nano 9B V2 (non-reasoning), Qwen3 14B (non-reasoning) (FP8), Mistral Small 3, Qwen3 30B (non-reasoning) (FP8), Llama 3.1 70B, Llama 3.1 70B (Turbo, FP8), Llama 4 Scout, Qwen3 14B (FP8), Hermes 3 - Llama-3.1 70B, Phi-4, Llama 3.2 11B (Vision), Gemma 3 27B, Gemma 3 4B 및 Gemma 3 12B.

Question 2

DeepInfra에서 지능이 가장 높은 모델은 무엇인가요?

Accepted Answer

DeepInfra에서 제공하는 모델 중 지능이 가장 높은 모델은 Intelligence Index 점수 46점인 MiMo-V2.6-Pro입니다.

Question 3

DeepInfra에서 가장 빠른 모델은 무엇인가요?

Accepted Answer

DeepInfra에서 출력 속도가 가장 빠른 모델은 초당 326.9토큰을 생성하는 Inkling (xhigh) (FP8)입니다.

Question 4

DeepInfra에서 지연 시간이 가장 짧은 모델은 무엇인가요?

Accepted Answer

DeepInfra에서 첫 답변 토큰까지 걸린 시간이 가장 짧은 모델은 0.57초인 NVIDIA Nemotron Nano 9B V2 (non-reasoning)입니다. 지연 시간이 짧을수록 최초 응답을 더 빨리 받습니다.

Question 5

DeepInfra에서 가장 저렴한 모델은 무엇인가요?

Accepted Answer

DeepInfra에서 혼합 가격이 가장 낮은 모델은 토큰 100만 개당 $0.02인 Llama 3.1 8B (Turbo, FP8)입니다(캐시 적중/입력/출력 비율 7:2:1).

Question 6

DeepInfra의 모델별 가격 차이는 얼마나 되나요?

Accepted Answer

DeepInfra의 모델별 가격은 최대 52배 차이 납니다. Llama 3.1 8B (Turbo, FP8)은 토큰 100만 개당 $0.02, Qwen3.8 2.4T A95B은 $1.14입니다.

Question 7

DeepInfra은 OpenAI와 호환되나요?

Accepted Answer

예. DeepInfra은 OpenAI 호환 API를 제공하므로 OpenAI에서 쉽게 전환하거나 기존 OpenAI SDK 통합을 사용할 수 있습니다.

Question 8

DeepInfra은 JSON 모드를 지원하나요?

Accepted Answer

예. DeepInfra의 모델 107개 모두 구조화된 출력용 JSON 모드를 지원합니다.

Question 9

DeepInfra은 함수 호출을 지원하나요?

Accepted Answer

DeepInfra의 모델 107개 중 104개가 함수 호출(도구 사용)을 지원합니다.

Question 10

DeepInfra은 추론 모델을 제공하나요?

Accepted Answer

예. DeepInfra은 추론 모델 62개를 제공합니다: MiMo-V2.6-Pro, DeepSeek V4.1 Flash 1017 (max), GLM-5.3 (max), GLM-5.3-Flash, Ling 3.1 Flash, Qwen3.8 2.4T A95B, DeepSeek V4.1 Flash (max), MiMo-V2.6-Flash, DeepSeek V4 Pro 0813 (max), DeepSeek V4 Flash Vision (max), DeepSeek V4 Flash 0731 (max), GLM-5.2 (max) (FP4), Qwen3.8 27B (xhigh), DeepSeek V4 Pro (max) (FP4), MiniMax-M3, GLM-5 (FP4), Kimi K2.6 (FP4), GLM-5.1 (FP4), MiMo-V2.5-Pro, Kimi K2.7 Code, Inkling Small, Hy3 (FP8), Inkling (xhigh) (FP8), DeepSeek V4 Flash (max) (FP4), Kimi K2.5, Nemotron 3 Ultra, Nemotron 3 Ultra BF16, Qwen3.5 27B (FP8), MiniMax-M2.5 (FP8), GLM-4.7 (FP4), MiMo-V2.5, DeepSeek V3.2 (FP4), Qwen3.6 27B FP8, Ling 3.0 Flash, Step 3.7 Flash, Qwen3.5 35B A3B (FP8), GLM-4.6 (FP4), Qwen3.5 397B A17B (FP8), Qwen3.6 35B A3B (FP8), Muse Glimmer (high), Gemma 4 26B A4B (FP8), Qwen3.5 122B A10B (FP4), GLM-4.7-Flash, Gemma 4 31B, Qwen3.5 4B (FP8), DeepSeek R1 0528, Nemotron 3.5 Lightning (NVFP4), Nemotron 3 Super, Qwen3 235B A22B 2507 (FP8), Granite 4.2 30B, gpt-oss-120b (high) (Turbo), gpt-oss-120b (high), Granite 4.2 8B, gpt-oss-120b (low), Granite 4.2 3B, gpt-oss-20b (high), Gemma 4 E4B, Nemotron 3 Nano, Qwen3 30B (FP8), NVIDIA Nemotron Nano 9B V2, Qwen3 32B (FP8) 및 Qwen3 14B (FP8). 추론 모델은 답변하기 전에 확장 사고를 사용해 복잡한 문제를 해결합니다.

Question 11

DeepInfra은 오픈 웨이트 모델을 제공하나요?

Accepted Answer

예. DeepInfra의 모델 107개 중 106개가 오픈 웨이트 모델입니다: MiMo-V2.6-Pro, DeepSeek V4.1 Flash 1017 (max), GLM-5.3 (max), GLM-5.3-Flash, Ling 3.1 Flash, Qwen3.8 2.4T A95B, DeepSeek V4.1 Flash (max), MiMo-V2.6-Flash, DeepSeek V4 Pro 0813 (max), DeepSeek V4 Flash 0731 (max), GLM-5.2 (max) (FP4), Qwen3.8 27B (xhigh), DeepSeek V4 Pro (max) (FP4), MiniMax-M3, GLM-5 (FP4), Kimi K2.6 (FP4), GLM-5.1 (FP4), MiMo-V2.5-Pro, Kimi K2.7 Code, Inkling Small, Hy3 (FP8), Inkling (xhigh) (FP8), GLM-5.1 (non-reasoning) (FP4), DeepSeek V4 Flash (max) (FP4), Kimi K2.6 (non-reasoning) (FP4), Kimi K2.5, Nemotron 3 Ultra, Nemotron 3 Ultra BF16, Qwen3.5 27B (FP8), MiniMax-M2.5 (FP8), GLM-4.7 (FP4), MiMo-V2.5, GLM-5 (non-reasoning) (FP8), DeepSeek V3.2 (FP4), Qwen3.5 397B A17B (non-reasoning) (FP8), Qwen3.6 27B FP8, Ling 3.0 Flash, Qwen3.6 27B (non-reasoning) FP8, Step 3.7 Flash, Qwen3.5 27B (non-reasoning) FP8, Qwen3.5 35B A3B (FP8), GLM-4.6 (FP4), Qwen3.5 397B A17B (FP8), MiMo-V2.5-Pro (non-reasoning), Qwen3.6 35B A3B (FP8), Qwen3.5 122B A10B (non-reasoning) (FP4), Muse Glimmer (high), GLM-4.7 (non-reasoning) (FP4), Gemma 4 26B A4B (FP8), DeepSeek V3.2 (non-reasoning), Qwen3.5 122B A10B (FP4), Qwen3.6 35B A3B (non-reasoning) (FP8), Qwen3.5 35B A3B (non-reasoning) FP8, GLM-4.7-Flash, Gemma 4 31B, DeepSeek V3.1 Terminus (non-reasoning) (FP4), Gemma 4 31B (non-reasoning) (FP8), DeepSeek V3.1 (non-reasoning) (FP4), Gemma 4 26B A4B (non-reasoning) (FP8), Qwen3.5 4B (FP8), DeepSeek R1 0528, Nemotron 3.5 Lightning (NVFP4), Nemotron 3 Super, Qwen3 235B A22B 2507 (FP8), Granite 4.2 30B, Qwen3 235B 2507 (FP8), Qwen3 Coder 480B (Turbo, FP4), gpt-oss-120b (high) (Turbo), gpt-oss-120b (high), Granite 4.2 8B, Qwen3.5 4B (non-reasoning) FP8, gpt-oss-120b (low), DeepSeek V3 0324 (FP4), Qwen3 Next 80B A3B, Llama 4 Maverick (FP8), Granite 4.2 3B, gpt-oss-20b (high), Gemma 4 E4B, Nemotron 3 Nano, DeepSeek V3 (Dec), Qwen2.5 72B, Llama 3.3 70B (Turbo, FP8), Qwen3 30B (FP8), Gemma 4 E4B (non-reasoning), NVIDIA Nemotron Nano 9B V2, Qwen3 32B (non-reasoning) (FP8), Qwen3 32B (FP8), Mistral Small 3.1, Mistral Small 3.2 (FP8), Llama 3.1 8B (Turbo, FP8), Llama 3.1 8B, Nemotron 3 Nano (non-reasoning), NVIDIA Nemotron Nano 9B V2 (non-reasoning), Qwen3 14B (non-reasoning) (FP8), Mistral Small 3, Qwen3 30B (non-reasoning) (FP8), Llama 3.1 70B, Llama 3.1 70B (Turbo, FP8), Llama 4 Scout, Qwen3 14B (FP8), Hermes 3 - Llama-3.1 70B, Phi-4, Llama 3.2 11B (Vision), Gemma 3 27B, Gemma 3 4B 및 Gemma 3 12B.

Question 12

DeepInfra의 성능은 시간에 따라 달라지나요?

Accepted Answer

예. 인프라 변경, 부하 분산, 업데이트에 따라 제공업체 성능이 달라질 수 있습니다. 모든 제공업체를 지속적으로 벤치마킹하고 '시간 경과' 차트에 과거 성능 추이를 표시합니다.

Question 13

DeepInfra에서 모델을 어떻게 선택해야 하나요?

Accepted Answer

DeepInfra에서 모델을 선택할 때는 지능(품질 중심 작업), 출력 속도(처리량 중심 작업), 지연 시간(빠른 최초 응답이 필요한 대화형 애플리케이션), 가격(비용에 민감한 워크로드), 컨텍스트 창 크기, JSON 모드, 함수 호출 지원 같은 기능을 고려하세요.


									추가 분석
MiMo-V2.6-Pro	1M	오픈	46	$0.96	40	1.83	64.92	50.47	모델 제공업체
DeepSeek V4.1 Flash 1017 (max)	1M	오픈	45	$0.61	70	0.82	36.45	28.51	모델 제공업체
GLM-5.3 (max)	1.05M	오픈	45	$0.97	78	1.53	33.55	25.61	모델 제공업체
GLM-5.3-Flash	1M	오픈	42	$0.34	58	0.86	44.31	34.76	모델 제공업체
Ling 3.1 Flash	262k	오픈	41	$1.01	9	1.03	289.49	230.77	모델 제공업체
Qwen3.8 2.4T A95B	262k	오픈	40	$2.89	69	1.11	37.50	29.11	모델 제공업체
DeepSeek V4.1 Flash (max)	1M	오픈	39	$0.44	85	0.62	30.15	23.62	모델 제공업체
MiMo-V2.6-Flash	1M	오픈	38	$0.42	56	1.66	46.27	35.68	모델 제공업체
DeepSeek V4 Pro 0813 (max)	1M	오픈	36	$1.00	70	1.20	37.12	28.74	모델 제공업체
DeepSeek V4 Flash Vision (max)	1M	독점	35	$0.51	181	0.91	14.75	11.08	모델 제공업체
DeepSeek V4 Flash 0731 (max)	1M	오픈	34	$0.09	64	0.75	39.93	31.34	모델 제공업체
GLM-5.2 (max) (FP4)	1.05M	오픈	34	$0.37	71	1.20	36.35	28.12	모델 제공업체
Qwen3.8 27B (xhigh)	262k	오픈	34	$0.52	33	1.25	78.05	61.45	모델 제공업체
DeepSeek V4 Pro (max) (FP4)	1.05M	오픈	30	$1.19	83	0.94	59.57	52.62	모델 제공업체
DeepSeek V4 Pro (high) (FP4)	65.5k	오픈	30*	--	--	--	--	--	모델 제공업체
MiniMax-M3	524k	오픈	29	$0.44	23	0.80	109.57	87.01	모델 제공업체
GLM-5 (FP4)	203k	오픈	28*	--	69	1.10	53.68	45.29	모델 제공업체
Kimi K2.6 (FP4)	262k	오픈	27	$0.51	89	0.84	56.78	50.29	모델 제공업체
GLM-5.1 (FP4)	203k	오픈	26	$0.58	87	0.89	50.31	43.66	모델 제공업체
MiMo-V2.5-Pro	65.5k	오픈	26	$0.28	43	1.49	59.18	46.15	모델 제공업체
Kimi K2.7 Code	262k	오픈	26	$0.39	44	1.29	63.12	50.50	모델 제공업체
Inkling Small	524k	오픈	26	--	273	0.73	9.88	7.32	모델 제공업체
Hy3 (FP8)	262k	오픈	25	$0.07	52	1.90	50.37	38.77	모델 제공업체
Inkling (xhigh) (FP8)	131k	오픈	25	--	222	0.62	11.91	9.03	모델 제공업체
DeepSeek V4 Flash (high) (FP4)	1.05M	오픈	24	$0.08	--	--	--	--	모델 제공업체
GLM-5.1 (non-reasoning) (FP4)	203k	오픈	24*	--	62	1.57	9.58	--	모델 제공업체
DeepSeek V4 Flash (max) (FP4)	1.05M	오픈	24	$0.07	29	1.41	213.07	194.34	모델 제공업체
Kimi K2.6 (non-reasoning) (FP4)	262k	오픈	24*	--	67	0.80	8.26	--	모델 제공업체
Kimi K2.5	262k	오픈	23*	--	101	0.85	35.25	29.44	모델 제공업체
Nemotron 3 Ultra	262k	오픈	23	$0.39	70	1.38	41.22	32.66	모델 제공업체
Nemotron 3 Ultra BF16	262k	오픈	23	$0.99	99	1.43	29.36	22.89	모델 제공업체
Qwen3.5 27B (FP8)	262k	오픈	23*	--	63	1.14	41.09	31.96	모델 제공업체
MiniMax-M2.5 (FP8)	197k	오픈	23*	--	21	0.84	118.04	93.76	모델 제공업체
GLM-4.7 (FP4)	203k	오픈	22*	--	26	1.10	98.84	78.19	모델 제공업체
MiMo-V2.5	262k	오픈	22	$0.06	47	1.49	55.09	42.88	모델 제공업체
GLM-5 (non-reasoning) (FP8)	203k	오픈	22*	--	74	1.11	7.91	--	모델 제공업체
DeepSeek V3.2 (FP4)	164k	오픈	21*	--	24	4.14	109.34	84.16	모델 제공업체
Qwen3.5 397B A17B (non-reasoning) (FP8)	262k	오픈	21*	--	44	1.22	12.61	--	모델 제공업체
Qwen3.6 27B FP8	262k	오픈	21	$0.37	59	1.18	105.78	96.13	모델 제공업체
Ling 3.0 Flash	131k	오픈	20	$0.02	52	16.96	65.35	38.71	모델 제공업체
Qwen3.6 27B (non-reasoning) FP8	262k	오픈	20*	--	57	1.13	9.98	--	모델 제공업체
Step 3.7 Flash	256k	오픈	19*	--	51	1.57	50.73	39.32	모델 제공업체
Qwen3.5 27B (non-reasoning) FP8	262k	오픈	19*	--	67	1.25	8.76	--	모델 제공업체
Qwen3.5 35B A3B (FP8)	262k	오픈	19*	--	98	0.78	26.26	20.38	모델 제공업체
GLM-4.6 (FP4)	203k	오픈	19*	--	15	1.55	165.72	131.34	모델 제공업체
Qwen3.5 397B A17B (FP8)	262k	오픈	18	--	48	1.11	77.17	65.74	모델 제공업체
MiMo-V2.5-Pro (non-reasoning)	65.5k	오픈	18*	--	38	1.50	14.76	--	모델 제공업체
Qwen3.6 35B A3B (FP8)	262k	오픈	18	$0.14	94	0.80	63.33	57.23	모델 제공업체
Qwen3.5 122B A10B (non-reasoning) (FP4)	262k	오픈	18*	--	47	1.16	11.83	--	모델 제공업체
Muse Glimmer (high)	131k	오픈	17	$0.05	134	0.88	19.48	14.88	모델 제공업체
GLM-4.7 (non-reasoning) (FP4)	203k	오픈	17*	--	25	1.24	21.37	--	모델 제공업체
Gemma 4 26B A4B (FP8)	262k	오픈	17*	--	84	0.66	30.60	23.95	모델 제공업체
DeepSeek V3.2 (non-reasoning)	164k	오픈	16*	--	21	4.52	28.09	--	모델 제공업체
Qwen3.5 122B A10B (FP4)	262k	오픈	16	$0.24	47	1.14	54.81	42.94	모델 제공업체
Qwen3.6 35B A3B (non-reasoning) (FP8)	262k	오픈	15*	--	83	0.79	6.83	--	모델 제공업체
Qwen3.5 35B A3B (non-reasoning) FP8	262k	오픈	15*	--	80	0.73	6.95	--	모델 제공업체
GLM-4.7-Flash	203k	오픈	15*	--	61	0.99	41.93	32.75	모델 제공업체
Gemma 4 31B	262k	오픈	15	$0.15	22	1.74	101.13	77.16	모델 제공업체
DeepSeek V3.1 Terminus (non-reasoning) (FP4)	164k	오픈	14*	--	62	0.81	8.85	--	모델 제공업체
Gemma 4 31B (non-reasoning) (FP8)	262k	오픈	14*	--	25	1.39	21.59	--	모델 제공업체
DeepSeek V3.1 (non-reasoning) (FP4)	164k	오픈	14*	--	10	1.29	50.63	--	모델 제공업체
Gemma 4 26B A4B (non-reasoning) (FP8)	262k	오픈	13*	--	65	0.68	8.38	--	모델 제공업체
Qwen3.5 4B (FP8)	262k	오픈	13*	--	18	0.91	140.30	111.51	모델 제공업체
DeepSeek R1 0528	164k	오픈	13*	--	34	0.89	75.51	59.69	모델 제공업체
Nemotron 3.5 Lightning (NVFP4)	262k	오픈	13	$0.09	94	0.71	27.40	21.35	모델 제공업체
Nemotron 3 Super	262k	오픈	13	$0.48	67	11.38	48.66	29.82	모델 제공업체
Qwen3 235B A22B 2507 (FP8)	262k	오픈	13	--	74	0.82	34.63	27.04	모델 제공업체
Granite 4.2 30B	131k	오픈	13	$0.07	99	0.66	25.93	20.22	모델 제공업체
Qwen3 235B 2507 (FP8)	262k	오픈	12*	--	10	0.75	48.77	--	모델 제공업체
Qwen3 Coder 480B (Turbo, FP4)	262k	오픈	12*	--	85	0.80	6.70	--	모델 제공업체
gpt-oss-120b (high) (Turbo)	131k	오픈	12	$0.11	47	0.66	53.37	42.17	모델 제공업체
gpt-oss-120b (high)	131k	오픈	12	$0.03	50	0.65	51.01	40.29	모델 제공업체
Granite 4.2 8B	131k	오픈	11	$0.02	97	0.69	26.37	20.55	모델 제공업체
Qwen3.5 4B (non-reasoning) FP8	262k	오픈	11*	--	12	1.16	41.58	--	모델 제공업체
gpt-oss-120b (low)	131k	오픈	10*	--	48	0.64	52.71	41.65	모델 제공업체
DeepSeek V3 0324 (FP4)	164k	오픈	10	$0.02	102	0.67	5.57	--	모델 제공업체
Qwen3 Next 80B A3B	262k	오픈	10*	--	135	0.71	4.42	--	모델 제공업체
Llama 4 Maverick (FP8)	1.05M	오픈	9	$0.03	39	0.90	13.68	--	모델 제공업체
Granite 4.2 3B	131k	오픈	9	$0.01	110	0.81	23.62	18.25	모델 제공업체
gpt-oss-20b (high)	131k	오픈	9	$0.01	114	0.55	22.39	17.47	모델 제공업체
Gemma 4 E4B	131k	오픈	9	$0.01	39	1.00	64.46	50.77	모델 제공업체
Nemotron 3 Nano	262k	오픈	9	$0.02	99	0.61	25.79	20.15	모델 제공업체
DeepSeek V3 (Dec)	164k	오픈	8	$0.02	24	0.92	22.06	--	모델 제공업체
DeepSeek R1 Distill Llama 70B	131k	오픈	8*	--	--	--	--	--	모델 제공업체
Qwen2.5 72B	32.8k	오픈	8*	--	27	2.32	20.94	--	모델 제공업체
Llama 3.3 70B (Turbo, FP8)	131k	오픈	8*	--	17	2.14	32.02	--	모델 제공업체
Qwen3 30B (FP8)	41k	오픈	8*	--	130	0.57	19.82	15.40	모델 제공업체
Gemma 4 E4B (non-reasoning)	131k	오픈	7*	--	45	0.81	11.84	--	모델 제공업체
NVIDIA Nemotron Nano 9B V2	131k	오픈	7*	--	95	0.70	26.99	21.04	모델 제공업체
Qwen3 32B (non-reasoning) (FP8)	41k	오픈	7*	--	24	1.66	22.80	--	모델 제공업체
Qwen3 32B (FP8)	41k	오픈	7	--	21	1.69	119.93	94.60	모델 제공업체
Mistral Small 3.1	128k	오픈	7	$0.02	43	0.90	12.62	--	모델 제공업체
Mistral Small 3.2 (FP8)	128k	오픈	7	$0.11	42	1.08	13.11	--	모델 제공업체
Llama 3.1 8B (Turbo, FP8)	131k	오픈	7*	--	26	0.95	20.41	--	모델 제공업체
Llama 3.1 8B	131k	오픈	7*	--	31	0.98	17.09	--	모델 제공업체
Nemotron 3 Nano (non-reasoning)	262k	오픈	7*	--	92	0.73	6.17	--	모델 제공업체
NVIDIA Nemotron Nano 9B V2 (non-reasoning)	131k	오픈	7*	--	98	0.57	5.70	--	모델 제공업체
Qwen3 14B (non-reasoning) (FP8)	41k	오픈	7*	--	75	0.89	7.56	--	모델 제공업체
Mistral Small 3	32.8k	오픈	7*	--	46	1.01	11.86	--	모델 제공업체
Qwen3 30B (non-reasoning) (FP8)	41k	오픈	7*	--	141	0.57	4.11	--	모델 제공업체
Llama 3.1 70B	131k	오픈	7*	--	40	2.07	14.69	--	모델 제공업체
Llama 3.1 70B (Turbo, FP8)	131k	오픈	7*	--	39	2.06	15.02	--	모델 제공업체
Llama 4 Scout	131k	오픈	6	$0.06	20	1.39	26.04	--	모델 제공업체
Qwen3 14B (FP8)	32.8k	오픈	6	--	75	0.84	34.34	26.80	모델 제공업체
Hermes 3 - Llama-3.1 70B	131k	오픈	6*	--	30	2.16	18.65	--	모델 제공업체
Phi-4	16.4k	오픈	6*	--	92	1.10	6.57	--	모델 제공업체
Llama 3.2 11B (Vision)	131k	오픈	5*	--	23	1.33	23.19	--	모델 제공업체
Gemma 3 27B	131k	오픈	5	$0.16	24	1.44	22.53	--	모델 제공업체
Gemma 3 4B	131k	오픈	5*	--	68	0.79	8.14	--	모델 제공업체
Llama 3 8B	8.19k	오픈	5*	--	--	--	--	--	모델 제공업체
Gemma 3 12B	131k	오픈	4	$0.13	52	0.87	10.48	--	모델 제공업체

DeepInfra: 모델 지능, 성능 및 가격

가장 높은 지능

가장 빠름

가장 낮은 가격

지능

속도

가격

지능 평가

Artificial Analysis Intelligence Index

Evaluations

Intelligence Index vs. 가격

컨텍스트 창

컨텍스트 창

가격

Intelligence Index vs. 가격

성능 요약

출력 속도와 가격

속도

출력 속도

지연 시간

지연 시간: 첫 답변 토큰까지 걸린 시간

캐시 동작

캐시 적중률

작업당 비용와 캐시 적중률

종단 간 응답 시간

종단 간 응답 시간과 가격

주요 용어 정의

자주 묻는 질문

DeepInfra: 모델 지능, 성능 및 가격

가장 높은 지능

가장 빠름

가장 낮은 가격

지능

속도

가격

지능 평가

Artificial Analysis Intelligence Index

Artificial Analysis Intelligence Index

Evaluations

Intelligence Evaluation Relevance

Artificial Analysis Intelligence Index

Intelligence Index vs. 가격

Price-Quality Variance

컨텍스트 창

컨텍스트 창

Context Window for RAG

Context Window

가격

Intelligence Index vs. 가격

Price-Quality Variance

성능 요약

출력 속도와 가격

Output Speed

Price

속도

출력 속도

Output Speed

Model Performance Representation

지연 시간

지연 시간: 첫 답변 토큰까지 걸린 시간

Time to First Answer Token

캐시 동작

캐시 적중률

What Cache Hit Rate Shows

작업당 비용와 캐시 적중률

Cost per Intelligence Index Task

종단 간 응답 시간

종단 간 응답 시간과 가격

Price

주요 용어 정의

Context Window

자주 묻는 질문

DeepInfra에서 어떤 모델을 제공하나요?

DeepInfra에서 지능이 가장 높은 모델은 무엇인가요?

DeepInfra에서 가장 빠른 모델은 무엇인가요?

DeepInfra에서 지연 시간이 가장 짧은 모델은 무엇인가요?

DeepInfra에서 가장 저렴한 모델은 무엇인가요?

DeepInfra의 모델별 가격 차이는 얼마나 되나요?

DeepInfra은 OpenAI와 호환되나요?

DeepInfra은 JSON 모드를 지원하나요?

DeepInfra은 함수 호출을 지원하나요?

DeepInfra은 추론 모델을 제공하나요?

DeepInfra은 오픈 웨이트 모델을 제공하나요?

DeepInfra의 성능은 시간에 따라 달라지나요?

DeepInfra에서 모델을 어떻게 선택해야 하나요?