Question 1

DeepInfra에서 어떤 모델을 제공하나요?

Accepted Answer

DeepInfra에서 추적 중인 모델 108개를 제공합니다: GLM-5.3 (max), GLM-5.3-Flash, Qwen3.8 2.4T A95B, DeepSeek V4 Pro 0813 (max), DeepSeek V4 Flash 0731 (max), GLM-5.2 (max) (FP4), Qwen3.8 27B (xhigh), DeepSeek V4 Pro (max) (FP4), DeepSeek V4 Pro (high) (FP4), MiniMax-M3, GLM-5 (FP4), Kimi K2.6 (FP4), GLM-5.1 (FP4), MiMo-V2.5-Pro, Kimi K2.7 Code, Inkling Small, Hy3 (FP8), Inkling (FP8), DeepSeek V4 Flash (high) (FP4), DeepSeek V4 Flash (max) (FP4), GLM-5.1 (Non-reasoning) (FP4), Kimi K2.6 (Non-reasoning) (FP4), Kimi K2.5, Nemotron 3 Ultra, Nemotron 3 Ultra BF16, Qwen3.5 27B (FP8), MiniMax-M2.5 (FP8), MiMo-V2.5, GLM-4.7 (FP4), Qwen3.6 27B FP8, GLM-5 (Non-reasoning) (FP8), DeepSeek V3.2 (FP4), Qwen3.5 397B A17B (Non-reasoning) (FP8), Ling 3.0 Flash, Qwen3.6 27B (Non-reasoning) FP8, Step 3.7 Flash, Qwen3.5 27B (Non-reasoning) FP8, Qwen3.5 35B A3B (FP8), Qwen3.5 397B A17B (FP8), Qwen3.6 35B A3B (FP8), GLM-4.6 (FP4), MiMo-V2.5-Pro (Non-reasoning), Muse Glimmer (high), Qwen3.5 122B A10B (Non-reasoning) (FP4), GLM-4.7 (Non-reasoning) (FP4), Gemma 4 26B A4B (FP8), Qwen3.5 122B A10B (FP4), DeepSeek V3.2 (Non-reasoning), Gemma 4 31B, Qwen3.6 35B A3B (Non-reasoning) (FP8), Qwen3.5 35B A3B (Non-reasoning) FP8, GLM-4.7-Flash, Granite 4.2 30B, DeepSeek V3.1 Terminus (Non-reasoning) (FP4), Gemma 4 31B (Non-reasoning) (FP8), DeepSeek V3.1 (Non-reasoning) (FP4), Nemotron 3 Super, Gemma 4 26B A4B (Non-reasoning) (FP8), Qwen3.5 4B (FP8), DeepSeek R1 0528, Qwen3 235B A22B 2507 (FP8), gpt-oss-120b (high) (Turbo), gpt-oss-120b (high), Qwen3 235B 2507 (Non-reasoning) (FP8), Qwen3 Coder 480B (Turbo, FP4), Granite 4.2 8B, Qwen3.5 4B (Non-reasoning) FP8, gpt-oss-120b (low), DeepSeek V3 0324 (FP4), Qwen3 Next 80B A3B, Llama 4 Maverick (FP8), Granite 4.2 3B, gpt-oss-20b (high), Llama Nemotron Super 49B v1.5, Gemma 4 E4B, Nemotron 3 Nano, DeepSeek V3 (Dec), DeepSeek R1 Distill Llama 70B, Qwen2.5 72B, Llama 3.3 70B (Turbo, FP8), Qwen3 30B (FP8), NVIDIA Nemotron Nano 12B v2 VL (FP8), Gemma 4 E4B (Non-reasoning), NVIDIA Nemotron Nano 9B V2, Mistral Small 3.1, Llama Nemotron Super 49B v1.5 (Non-reasoning), Qwen3 32B (Non-reasoning) (FP8), Qwen3 32B (FP8), Mistral Small 3.2 (FP8), Llama 3.1 Nemotron 70B, Llama 3.1 8B (Turbo, FP8), Llama 3.1 8B, Nemotron 3 Nano (Non-reasoning), NVIDIA Nemotron Nano 9B V2 (Non-reasoning), Qwen3 14B (Non-reasoning) (FP8), Mistral Small 3, Qwen3 30B (Non-reasoning) (FP8), Llama 3.1 70B, Llama 3.1 70B (Turbo, FP8), Llama 4 Scout, Qwen3 14B (FP8), Hermes 3 - Llama-3.1 70B, Phi-4, NVIDIA Nemotron Nano 12B v2 VL (Non-reasoning) (FP8), Llama 3.2 11B (Vision), Gemma 3 27B, Gemma 3 4B 및 Gemma 3 12B.

Question 2

DeepInfra에서 지능이 가장 높은 모델은 무엇인가요?

Accepted Answer

DeepInfra에서 제공하는 모델 중 지능이 가장 높은 모델은 Intelligence Index 점수 45점인 GLM-5.3 (max)입니다.

Question 3

DeepInfra에서 가장 빠른 모델은 무엇인가요?

Accepted Answer

DeepInfra에서 출력 속도가 가장 빠른 모델은 초당 250.1토큰을 생성하는 Inkling Small입니다.

Question 4

DeepInfra에서 지연 시간이 가장 짧은 모델은 무엇인가요?

Accepted Answer

DeepInfra에서 첫 답변 토큰까지 걸린 시간이 가장 짧은 모델은 0.46초인 Qwen3 30B (Non-reasoning) (FP8)입니다. 지연 시간이 짧을수록 최초 응답을 더 빨리 받습니다.

Question 5

DeepInfra에서 가장 저렴한 모델은 무엇인가요?

Accepted Answer

DeepInfra에서 혼합 가격이 가장 낮은 모델은 토큰 100만 개당 $0.02인 Llama 3.1 8B (Turbo, FP8)입니다(캐시 적중/입력/출력 비율 7:2:1).

Question 6

DeepInfra의 모델별 가격 차이는 얼마나 되나요?

Accepted Answer

DeepInfra의 모델별 가격은 최대 55배 차이 납니다. Llama 3.1 8B (Turbo, FP8)은 토큰 100만 개당 $0.02, Llama 3.1 Nemotron 70B은 $1.20입니다.

Question 7

DeepInfra은 OpenAI와 호환되나요?

Accepted Answer

예. DeepInfra은 OpenAI 호환 API를 제공하므로 OpenAI에서 쉽게 전환하거나 기존 OpenAI SDK 통합을 사용할 수 있습니다.

Question 8

DeepInfra은 JSON 모드를 지원하나요?

Accepted Answer

DeepInfra의 모델 108개 중 105개가 구조화된 출력용 JSON 모드를 지원합니다.

Question 9

DeepInfra은 함수 호출을 지원하나요?

Accepted Answer

DeepInfra의 모델 108개 중 105개가 함수 호출(도구 사용)을 지원합니다.

Question 10

DeepInfra은 추론 모델을 제공하나요?

Accepted Answer

예. DeepInfra은 추론 모델 60개를 제공합니다: GLM-5.3 (max), GLM-5.3-Flash, Qwen3.8 2.4T A95B, DeepSeek V4 Pro 0813 (max), DeepSeek V4 Flash 0731 (max), GLM-5.2 (max) (FP4), Qwen3.8 27B (xhigh), DeepSeek V4 Pro (max) (FP4), DeepSeek V4 Pro (high) (FP4), MiniMax-M3, GLM-5 (FP4), Kimi K2.6 (FP4), GLM-5.1 (FP4), MiMo-V2.5-Pro, Kimi K2.7 Code, Inkling Small, Hy3 (FP8), Inkling (FP8), DeepSeek V4 Flash (high) (FP4), DeepSeek V4 Flash (max) (FP4), Kimi K2.5, Nemotron 3 Ultra, Nemotron 3 Ultra BF16, Qwen3.5 27B (FP8), MiniMax-M2.5 (FP8), MiMo-V2.5, GLM-4.7 (FP4), Qwen3.6 27B FP8, DeepSeek V3.2 (FP4), Ling 3.0 Flash, Step 3.7 Flash, Qwen3.5 35B A3B (FP8), Qwen3.5 397B A17B (FP8), Qwen3.6 35B A3B (FP8), GLM-4.6 (FP4), Muse Glimmer (high), Gemma 4 26B A4B (FP8), Qwen3.5 122B A10B (FP4), Gemma 4 31B, GLM-4.7-Flash, Granite 4.2 30B, Nemotron 3 Super, Qwen3.5 4B (FP8), DeepSeek R1 0528, Qwen3 235B A22B 2507 (FP8), gpt-oss-120b (high) (Turbo), gpt-oss-120b (high), Granite 4.2 8B, gpt-oss-120b (low), Granite 4.2 3B, gpt-oss-20b (high), Llama Nemotron Super 49B v1.5, Gemma 4 E4B, Nemotron 3 Nano, DeepSeek R1 Distill Llama 70B, Qwen3 30B (FP8), NVIDIA Nemotron Nano 12B v2 VL (FP8), NVIDIA Nemotron Nano 9B V2, Qwen3 32B (FP8) 및 Qwen3 14B (FP8). 추론 모델은 답변하기 전에 확장 사고를 사용해 복잡한 문제를 해결합니다.

Question 11

DeepInfra은 오픈 웨이트 모델을 제공하나요?

Accepted Answer

예. DeepInfra의 모델 108개 모두 오픈 웨이트 모델입니다.

Question 12

DeepInfra의 성능은 시간에 따라 달라지나요?

Accepted Answer

예. 인프라 변경, 부하 분산, 업데이트에 따라 제공업체 성능이 달라질 수 있습니다. 모든 제공업체를 지속적으로 벤치마킹하고 '시간 경과' 차트에 과거 성능 추이를 표시합니다.

Question 13

DeepInfra에서 모델을 어떻게 선택해야 하나요?

Accepted Answer

DeepInfra에서 모델을 선택할 때는 지능(품질 중심 작업), 출력 속도(처리량 중심 작업), 지연 시간(빠른 최초 응답이 필요한 대화형 애플리케이션), 가격(비용에 민감한 워크로드), 컨텍스트 창 크기, JSON 모드, 함수 호출 지원 같은 기능을 고려하세요.


									추가 분석
GLM-5.3 (max)	1.05M	오픈	45	$2.16	136	1.03	19.47	14.75	모델 제공업체
GLM-5.3-Flash	1M	오픈	42	$0.43	30	1.28	84.56	66.62	모델 제공업체
Qwen3.8 2.4T A95B	262k	오픈	40	$2.89	78	1.48	33.57	25.67	모델 제공업체
DeepSeek V4 Pro 0813 (max)	1M	오픈	36	$1.00	113	0.80	22.97	17.74	모델 제공업체
DeepSeek V4 Flash 0731 (max)	1M	오픈	35	$0.10	57	0.87	45.01	35.32	모델 제공업체
GLM-5.2 (max) (FP4)	1.05M	오픈	34	$0.65	60	1.06	42.74	33.34	모델 제공업체
Qwen3.8 27B (xhigh)	262k	오픈	34	$0.65	35	1.13	71.77	56.51	모델 제공업체
DeepSeek V4 Pro (max) (FP4)	1.05M	오픈	31	$1.19	52	1.20	94.74	83.95	모델 제공업체
DeepSeek V4 Pro (high) (FP4)	65.5k	오픈	30*	--	56	1.50	45.78	35.40	모델 제공업체
MiniMax-M3	524k	오픈	30	$0.44	24	1.00	106.63	84.50	모델 제공업체
GLM-5 (FP4)	203k	오픈	28*	--	68	0.95	53.77	45.50	모델 제공업체
Kimi K2.6 (FP4)	262k	오픈	27	$0.51	44	1.37	114.58	101.77	모델 제공업체
GLM-5.1 (FP4)	203k	오픈	26	$0.69	31	0.85	137.62	120.83	모델 제공업체
MiMo-V2.5-Pro	65.5k	오픈	26	$0.43	37	1.07	68.73	54.13	모델 제공업체
Kimi K2.7 Code	262k	오픈	26	$0.39	41	0.91	67.89	54.70	모델 제공업체
Inkling Small	524k	오픈	26	$0.12	250	0.98	10.98	8.00	모델 제공업체
Hy3 (FP8)	262k	오픈	26	$0.07	59	1.15	43.50	33.88	모델 제공업체
Inkling (FP8)	131k	오픈	26	$0.81	210	0.56	12.48	9.53	모델 제공업체
DeepSeek V4 Flash (high) (FP4)	1.05M	오픈	25	$0.10	45	0.91	39.59	27.56	모델 제공업체
DeepSeek V4 Flash (max) (FP4)	1.05M	오픈	25	$0.09	44	0.95	141.41	128.98	모델 제공업체
GLM-5.1 (Non-reasoning) (FP4)	203k	오픈	24*	--	29	1.05	18.12	--	모델 제공업체
Kimi K2.6 (Non-reasoning) (FP4)	262k	오픈	24*	--	34	1.49	16.08	--	모델 제공업체
Kimi K2.5	262k	오픈	23*	--	43	1.38	81.31	68.41	모델 제공업체
Nemotron 3 Ultra	262k	오픈	23	$0.47	127	3.35	25.16	17.88	모델 제공업체
Nemotron 3 Ultra BF16	262k	오픈	23	$0.92	153	2.65	20.78	14.87	모델 제공업체
Qwen3.5 27B (FP8)	262k	오픈	23*	--	70	0.90	36.81	28.73	모델 제공업체
MiniMax-M2.5 (FP8)	197k	오픈	23*	--	22	5.49	118.62	90.51	모델 제공업체
MiMo-V2.5	262k	오픈	22	$0.02	29	1.74	87.46	68.58	모델 제공업체
GLM-4.7 (FP4)	203k	오픈	22*	--	18	1.74	143.59	113.48	모델 제공업체
Qwen3.6 27B FP8	262k	오픈	22	$0.37	65	0.94	95.81	87.19	모델 제공업체
GLM-5 (Non-reasoning) (FP8)	203k	오픈	22*	--	56	1.39	10.30	--	모델 제공업체
DeepSeek V3.2 (FP4)	164k	오픈	21*	--	28	1.67	91.22	71.64	모델 제공업체
Qwen3.5 397B A17B (Non-reasoning) (FP8)	262k	오픈	21*	--	41	0.94	13.25	--	모델 제공업체
Ling 3.0 Flash	131k	오픈	21	$0.03	57	0.67	44.16	34.79	모델 제공업체
Qwen3.6 27B (Non-reasoning) FP8	262k	오픈	20*	--	60	0.92	9.25	--	모델 제공업체
Step 3.7 Flash	256k	오픈	19*	--	168	0.66	15.54	11.90	모델 제공업체
Qwen3.5 27B (Non-reasoning) FP8	262k	오픈	19*	--	66	0.92	8.45	--	모델 제공업체
Qwen3.5 35B A3B (FP8)	262k	오픈	19*	--	159	0.80	16.50	12.56	모델 제공업체
Qwen3.5 397B A17B (FP8)	262k	오픈	19	$0.23	39	0.97	95.92	82.06	모델 제공업체
Qwen3.6 35B A3B (FP8)	262k	오픈	19	$0.14	93	0.70	63.90	57.84	모델 제공업체
GLM-4.6 (FP4)	203k	오픈	19*	--	42	0.75	59.62	47.10	모델 제공업체
MiMo-V2.5-Pro (Non-reasoning)	65.5k	오픈	18*	--	30	1.16	17.64	--	모델 제공업체
Muse Glimmer (high)	131k	오픈	18	$0.05	148	0.89	17.78	13.51	모델 제공업체
Qwen3.5 122B A10B (Non-reasoning) (FP4)	262k	오픈	18*	--	143	0.92	4.42	--	모델 제공업체
GLM-4.7 (Non-reasoning) (FP4)	203k	오픈	17*	--	18	1.05	28.51	--	모델 제공업체
Gemma 4 26B A4B (FP8)	262k	오픈	17*	--	31	0.89	81.03	64.11	모델 제공업체
Qwen3.5 122B A10B (FP4)	262k	오픈	16	$0.14	155	0.81	16.96	12.92	모델 제공업체
DeepSeek V3.2 (Non-reasoning)	164k	오픈	16*	--	33	1.34	16.44	--	모델 제공업체
Gemma 4 31B	262k	오픈	15	$0.02	15	2.14	149.62	114.50	모델 제공업체
Qwen3.6 35B A3B (Non-reasoning) (FP8)	262k	오픈	15*	--	92	0.69	6.12	--	모델 제공업체
Qwen3.5 35B A3B (Non-reasoning) FP8	262k	오픈	15*	--	154	0.72	3.97	--	모델 제공업체
GLM-4.7-Flash	203k	오픈	15*	--	35	1.56	72.92	57.09	모델 제공업체
Granite 4.2 30B	131k	오픈	15*	--	77	0.80	33.16	25.89	모델 제공업체
DeepSeek V3.1 Terminus (Non-reasoning) (FP4)	164k	오픈	14*	--	60	0.97	9.35	--	모델 제공업체
Gemma 4 31B (Non-reasoning) (FP8)	262k	오픈	14*	--	20	1.45	26.12	--	모델 제공업체
DeepSeek V3.1 (Non-reasoning) (FP4)	164k	오픈	14*	--	12	1.00	43.44	--	모델 제공업체
Nemotron 3.5 Lightning (NVFP4)	262k	오픈	14	$0.12	--	--	--	--	모델 제공업체
Nemotron 3 Super	262k	오픈	14	$0.48	90	13.04	40.86	22.26	모델 제공업체
Gemma 4 26B A4B (Non-reasoning) (FP8)	262k	오픈	13*	--	23	0.82	22.42	--	모델 제공업체
Qwen3.5 4B (FP8)	262k	오픈	13*	--	29	0.72	85.88	68.12	모델 제공업체
DeepSeek R1 0528	164k	오픈	13*	--	23	0.93	109.29	86.69	모델 제공업체
Qwen3 235B A22B 2507 (FP8)	262k	오픈	13	--	92	0.78	27.85	21.65	모델 제공업체
gpt-oss-120b (high) (Turbo)	131k	오픈	12	$0.11	230	0.76	11.61	8.68	모델 제공업체
gpt-oss-120b (high)	131k	오픈	12	$0.03	59	0.59	43.28	34.15	모델 제공업체
Qwen3 235B 2507 (Non-reasoning) (FP8)	262k	오픈	12*	--	16	0.67	32.20	--	모델 제공업체
Qwen3 Coder 480B (Turbo, FP4)	262k	오픈	12*	--	73	0.65	7.54	--	모델 제공업체
Granite 4.2 8B	131k	오픈	12	$0.02	72	0.64	35.43	27.84	모델 제공업체
Qwen3.5 4B (Non-reasoning) FP8	262k	오픈	11*	--	22	0.69	23.52	--	모델 제공업체
gpt-oss-120b (low)	131k	오픈	10*	--	55	0.63	46.38	36.60	모델 제공업체
DeepSeek V3 0324 (FP4)	164k	오픈	10	$0.02	46	1.09	12.01	--	모델 제공업체
Qwen3 Next 80B A3B	262k	오픈	10*	--	160	0.70	3.83	--	모델 제공업체
Llama 4 Maverick (FP8)	1.05M	오픈	9	$0.03	74	0.51	7.26	--	모델 제공업체
Granite 4.2 3B	131k	오픈	9	$0.01	214	0.45	12.15	9.37	모델 제공업체
gpt-oss-20b (high)	131k	오픈	9	$0.01	118	0.44	21.64	16.96	모델 제공업체
Llama Nemotron Super 49B v1.5	131k	오픈	9*	--	95	4.25	30.66	21.13	모델 제공업체
Gemma 4 E4B	262k	오픈	9*	--	44	0.81	57.51	45.36	모델 제공업체
Nemotron 3 Nano	262k	오픈	9	$0.02	104	4.46	28.43	19.18	모델 제공업체
DeepSeek V3 (Dec)	164k	오픈	8	$0.02	29	0.66	17.81	--	모델 제공업체
DeepSeek R1 Distill Llama 70B	131k	오픈	8*	--	25	0.99	100.22	79.39	모델 제공업체
Qwen2.5 72B	32.8k	오픈	8*	--	29	2.33	19.68	--	모델 제공업체
Llama 3.3 70B (Turbo, FP8)	131k	오픈	8*	--	16	2.10	34.16	--	모델 제공업체
Qwen3 30B (FP8)	41k	오픈	8*	--	159	0.51	16.23	12.57	모델 제공업체
NVIDIA Nemotron Nano 12B v2 VL (FP8)	131k	오픈	7*	--	148	3.29	20.22	13.55	모델 제공업체
Gemma 4 E4B (Non-reasoning)	262k	오픈	7*	--	45	0.77	11.92	--	모델 제공업체
NVIDIA Nemotron Nano 9B V2	131k	오픈	7*	--	92	7.88	35.01	21.70	모델 제공업체
Mistral Small 3.1	128k	오픈	7	$0.02	36	0.93	15.00	--	모델 제공업체
Llama Nemotron Super 49B v1.5 (Non-reasoning)	131k	오픈	7*	--	161	3.02	6.13	--	모델 제공업체
Qwen3 32B (Non-reasoning) (FP8)	41k	오픈	7*	--	27	1.51	20.32	--	모델 제공업체
Qwen3 32B (FP8)	41k	오픈	7	--	29	1.48	88.88	69.92	모델 제공업체
Mistral Small 3.2 (FP8)	128k	오픈	7	$0.11	41	0.90	13.22	--	모델 제공업체
Llama 3.1 Nemotron 70B	131k	오픈	7*	--	145	2.97	6.41	--	모델 제공업체
Llama 3.1 8B (Turbo, FP8)	131k	오픈	7*	--	25	0.92	20.83	--	모델 제공업체
Llama 3.1 8B	131k	오픈	7*	--	20	0.98	25.70	--	모델 제공업체
Nemotron 3 Nano (Non-reasoning)	262k	오픈	7*	--	102	0.67	5.59	--	모델 제공업체
NVIDIA Nemotron Nano 9B V2 (Non-reasoning)	131k	오픈	7*	--	103	5.72	10.57	--	모델 제공업체
Qwen3 14B (Non-reasoning) (FP8)	41k	오픈	7*	--	61	0.80	9.00	--	모델 제공업체
Mistral Small 3	32.8k	오픈	7*	--	52	0.82	10.51	--	모델 제공업체
Qwen3 30B (Non-reasoning) (FP8)	41k	오픈	7*	--	164	0.50	3.56	--	모델 제공업체
Llama 3.1 70B	131k	오픈	7*	--	35	1.93	16.22	--	모델 제공업체
Llama 3.1 70B (Turbo, FP8)	131k	오픈	7*	--	35	1.97	16.06	--	모델 제공업체
Llama 4 Scout	328k	오픈	6	$0.06	23	1.06	22.49	--	모델 제공업체
Qwen3 14B (FP8)	32.8k	오픈	6	--	57	0.85	44.88	35.23	모델 제공업체
Hermes 3 - Llama-3.1 70B	131k	오픈	6*	--	31	2.14	18.03	--	모델 제공업체
Phi-4	16.4k	오픈	6*	--	56	0.93	9.82	--	모델 제공업체
NVIDIA Nemotron Nano 12B v2 VL (Non-reasoning) (FP8)	131k	오픈	6*	--	138	3.91	7.53	--	모델 제공업체
Llama 3.2 11B (Vision)	131k	오픈	5*	--	19	1.23	27.14	--	모델 제공업체
Gemma 3 27B	131k	오픈	5	$0.16	25	1.41	21.03	--	모델 제공업체
Gemma 3 4B	131k	오픈	5*	--	19	1.71	28.14	--	모델 제공업체
Llama 3 8B	8.19k	오픈	5*	--	--	--	--	--	모델 제공업체
Gemma 3 12B	131k	오픈	4	$0.13	39	1.06	13.76	--	모델 제공업체

DeepInfra: 모델 지능, 성능 및 가격

가장 높은 지능

가장 빠름

가장 낮은 가격

지능

속도

가격

지능 평가

Artificial Analysis Intelligence Index

Intelligence Evaluations

Intelligence Index vs. Price

컨텍스트 창

Context Window

가격

Intelligence Index vs. Price

성능 요약

Output Speed vs. Price

속도

Output Speed

지연 시간

Latency: Time To First Answer Token

종단 간 응답 시간

End-to-End Response Time vs. Price

주요 용어 정의

자주 묻는 질문

DeepInfra: 모델 지능, 성능 및 가격

가장 높은 지능

가장 빠름

가장 낮은 가격

지능

속도

가격

지능 평가

Artificial Analysis Intelligence Index

Artificial Analysis Intelligence Index

Intelligence Evaluations

Intelligence Evaluation Relevance

Artificial Analysis Intelligence Index

Intelligence Index vs. Price

Price-Quality Variance

컨텍스트 창

Context Window

Context Window for RAG

Context Window

가격

Intelligence Index vs. Price

Price-Quality Variance

성능 요약

Output Speed vs. Price

Output Speed

Price

속도

Output Speed

Output Speed

Model Performance Representation

지연 시간

Latency: Time To First Answer Token

Time to First Answer Token

종단 간 응답 시간

End-to-End Response Time vs. Price

Price

주요 용어 정의

Context Window

자주 묻는 질문

DeepInfra에서 어떤 모델을 제공하나요?

DeepInfra에서 지능이 가장 높은 모델은 무엇인가요?

DeepInfra에서 가장 빠른 모델은 무엇인가요?

DeepInfra에서 지연 시간이 가장 짧은 모델은 무엇인가요?

DeepInfra에서 가장 저렴한 모델은 무엇인가요?

DeepInfra의 모델별 가격 차이는 얼마나 되나요?

DeepInfra은 OpenAI와 호환되나요?

DeepInfra은 JSON 모드를 지원하나요?

DeepInfra은 함수 호출을 지원하나요?

DeepInfra은 추론 모델을 제공하나요?

DeepInfra은 오픈 웨이트 모델을 제공하나요?

DeepInfra의 성능은 시간에 따라 달라지나요?

DeepInfra에서 모델을 어떻게 선택해야 하나요?