DeepInfra:モデルの知能、性能、料金

DeepInfra
DeepInfra

DeepInfraのモデルを、品質、料金、出力速度、遅延、コンテキストウィンドウなどの主要指標で分析します。 この分析は、ユースケースに最適なDeepInfra提供モデルを選ぶための参考情報です。

最高の知能

#1
GLM-5.2 (max) (FP4)
GLM-5.2 (max) (FP4)
51
#2
DeepSeek V4 Flash 0731 (max)
DeepSeek V4 Flash 0731 (max)
50
#3
MiniMax-M3
MiniMax-M3
44
#4
DeepSeek V4 Pro (max) (FP4)
DeepSeek V4 Pro (max) (FP4)
44
#5
Kimi K2.6 (FP4)
Kimi K2.6 (FP4)
44

Intelligence Index

モデル合計:97件

最速

#1
Step 3.7 Flash
Step 3.7 Flash
203 t/s
#2
Qwen3.5 122B A10B (FP4)
Qwen3.5 122B A10B (FP4)
190 t/s
#3
Inkling (FP8)
Inkling (FP8)
188 t/s
#4
NVIDIA Nemotron Nano 9B V2
NVIDIA Nemotron Nano 9B V2
181 t/s
#5
NVIDIA Nemotron Nano 9B V2
NVIDIA Nemotron Nano 9B V2
179 t/s

出力速度

モデル合計:97件

最安料金

#1
Llama 3.1 8B (Turbo, FP8)
Llama 3.1 8B (Turbo, FP8)
$0.02
#2
Llama 3.1 8B
Llama 3.1 8B
$0.02
#3
Gemma 4 E4B
Gemma 4 E4B
$0.03
#4
Gemma 4 E4B
Gemma 4 E4B
$0.03
#5
gpt-oss-20b (high)
gpt-oss-20b (high)
$0.04

ブレンド料金(100万トークンあたり)

モデル合計:97件

推論モデルを示します

DeepInfraは97モデルを提供しており、知能、性能、料金の特性はそれぞれ異なります。 以下でモデル間の主要指標を比較します。

  • DeepInfraで知能が上位のモデルはGLM-5.2 (max) (FP4)(51)、DeepSeek V4 Flash 0731 (max)(50)、MiniMax-M3(44)です。
  • 出力速度が最も速いモデルはStep 3.7 Flash(203 t/s)、Qwen3.5 122B A10B (FP4)(190 t/s)、Inkling (FP8)(188 t/s)です。
  • 遅延では、NVIDIA Nemotron 3 Nano(0.43秒)、Qwen3 30B (FP8)(0.52秒)、Qwen3.5 35B A3B FP8(0.53秒)の最初の回答トークンまでの時間が最短です。
  • 料金では、Llama 3.1 8B (Turbo, FP8)($0.02)、Llama 3.1 8B($0.02)、Gemma 4 E4B($0.03)の100万トークンあたりのブレンド料金が最安です。
  • DeepInfraで最大のコンテキストウィンドウに対応するモデルはGLM-5.2 (max) (FP4)(1M)、DeepSeek V4 Pro (max) (FP4)(1M)、DeepSeek V4 Flash (max) (FP4)(1M)です。

ハイライト

Artificial Analysis Intelligence Index · Higher is better
Output tokens per second · Higher is better
USD per 1M tokens (blended) · Lower is better

知能評価

Artificial Analysis Intelligence Index

Artificial Analysis Intelligence Index v4.1 incorporates 9 evaluations: GDPval-AA v2, 𝜏³-Banking, Terminal-Bench v2.1, SciCode, Humanity's Last Exam, GPQA Diamond, CritPt, AA-Omniscience, AA-LCR
Reasoning models are indicated by a lightbulb icon

Artificial Analysis Intelligence Index v4.1 includes: GDPval-AA v2, 𝜏³-Banking, Terminal-Bench v2.1, SciCode, Humanity's Last Exam, GPQA Diamond, CritPt, AA-Omniscience, AA-LCR. See Intelligence Index methodology for further details, including a breakdown of each evaluation and how we run them.

Intelligence Evaluations

Intelligence evaluations measured independently by Artificial Analysis · Higher is better

Agentic real-world work tasks, (Elo-500)/2000

Agentic tool use

Agentic coding & terminal use

Coding

Reasoning & knowledge

Scientific reasoning

Physics reasoning

Long context reasoning

Agentic knowledge work, Elo

Agentic SaaS workflows

Legal agentic work, criterion pass rate

Agentic business operations

Instruction following

Long-horizon agentic tasks

Kubernetes incident root-cause analysis

Visual reasoning

Reasoning models are indicated by a lightbulb icon

While model intelligence generally translates across use cases, specific evaluations may be more relevant for certain use cases.

Artificial Analysis Intelligence Index v4.1 includes: GDPval-AA v2, 𝜏³-Banking, Terminal-Bench v2.1, SciCode, Humanity's Last Exam, GPQA Diamond, CritPt, AA-Omniscience, AA-LCR. See Intelligence Index methodology for further details, including a breakdown of each evaluation and how we run them.

Intelligence Index vs. Price

Blended at 7:2:1 (cache-input-output) · USD per 1M tokens (blended)
Most attractive quadrant
Pareto line
Reasoning models are indicated by a lightbulb icon

While higher intelligence models are typically more expensive, they do not all follow the same price-quality curve.

コンテキストウィンドウ

Context Window

Context window: tokens limit · Higher is better
Reasoning models are indicated by a lightbulb icon

Larger context windows are relevant to RAG (Retrieval Augmented Generation) LLM workflows which typically involve reasoning and information retrieval of large amounts of data.

Maximum number of combined input & output tokens. Output tokens commonly have a significantly lower limit (varied by model).

料金

Intelligence Index vs. Price

Blended at 7:2:1 (cache-input-output) · USD per 1M tokens (blended)
Most attractive quadrant
Pareto line
Reasoning models are indicated by a lightbulb icon

While higher intelligence models are typically more expensive, they do not all follow the same price-quality curve.

性能の概要

Output Speed vs. Price

Output speed: output tokens per second · USD per 1M tokens (blended)
Most attractive quadrant
Pareto line
Reasoning models are indicated by a lightbulb icon

Tokens per second received while the model is generating tokens (ie. after first chunk has been received from the API for models which support streaming).

Price per token, shown in USD per million tokens. Price is a blend of cache hit, input, and output token prices using the selected ratio (default 7:2:1 cache-input-output).

速度

出力速度(1秒あたりのトークン数)で測定

Output Speed

Output tokens per second · Higher is better
Reasoning models are indicated by a lightbulb icon

Tokens per second received while the model is generating tokens (ie. after first chunk has been received from the API for models which support streaming).

Figures represent performance of the model's first-party API (e.g. OpenAI for o1) or the median across providers where a first-party API is not available (e.g. Meta's Llama models).

遅延

最初のトークンまでの時間(秒)で測定

Latency: Time To First Answer Token

Seconds to first answer token received · Accounts for reasoning model 'thinking' time
Reasoning models are indicated by a lightbulb icon

Time to first answer token received, in seconds, after API request sent. For reasoning models, this includes the 'thinking' time of the model before providing an answer. For models which do not support streaming, this represents time to receive the completion.

エンドツーエンド応答時間

Seconds to output 500 tokens, calculated based on time to first token, 'thinking' time for reasoning models, and output speed

End-to-End Response Time vs. Price

End-to-end response time: end-to-end seconds to output 500 tokens · USD per 1M tokens (blended)
Most attractive quadrant
Pareto line
Reasoning models are indicated by a lightbulb icon

Price per token, shown in USD per million tokens. Price is a blend of cache hit, input, and output token prices using the selected ratio (default 7:2:1 cache-input-output).

詳細分析
Z AIのロゴ
GLM-5.2 (max) (FP4)
1.05M
オープン
51
$0.25
56
1.30
45.91
35.69
DeepSeekのロゴ
DeepSeek V4 Flash 0731 (max)
1M
オープン
50
$0.06
74
0.83
34.55
26.98
MiniMaxのロゴ
MiniMax-M3
524k
オープン
44
$0.13
22
1.33
117.27
92.75
DeepSeekのロゴ
DeepSeek V4 Pro (max) (FP4)
1.05M
オープン
44
$0.27
38
2.73
131.45
115.52
Kimiのロゴ
Kimi K2.6 (FP4)
262k
オープン
44
$0.27
39
0.95
128.82
114.96
DeepSeekのロゴ
DeepSeek V4 Pro (high) (FP4)
65.5k
オープン
43
$0.26
32
1.50
78.73
61.74
Xiaomiのロゴ
MiMo-V2.5-Pro
65.5k
オープン
42
$0.18
112
0.95
23.27
17.86
Kimiのロゴ
Kimi K2.7 Code
262k
オープン
42
$0.18
93
0.76
29.95
23.84
Tencentのロゴ
Hy3 (FP8)
262k
オープン
41
$0.04
61
0.65
41.63
32.79
Thinking Machinesのロゴ
Inkling (FP8)
131k
オープン
41
$0.43
188
0.71
14.03
10.66
DeepSeekのロゴ
DeepSeek V4 Flash (max) (FP4)
1.05M
オープン
40
$0.05
42
1.00
147.89
134.87
Thinking Machinesのロゴ
Inkling Small
524k
オープン
40
$0.15
134
0.68
19.37
14.95
Z AIのロゴ
GLM-5.1 (FP4)
203k
オープン
40
$0.18
37
0.95
116.39
101.99
Z AIのロゴ
GLM-5 (FP4)
203k
オープン
40*
--
26
1.49
140.22
119.48
NVIDIAのロゴ
Nemotron 3 Ultra
262k
オープン
38
$0.23
85
6.12
38.94
26.91
NVIDIAのロゴ
Nemotron 3 Ultra BF16
262k
オープン
38
--
87
6.47
38.41
26.18
DeepSeekのロゴ
DeepSeek V4 Flash (high) (FP4)
1.05M
オープン
37
$0.03
41
1.11
43.28
30.05
Xiaomiのロゴ
MiMo-V2.5
262k
オープン
37
$0.08
56
0.88
45.48
35.68
Alibabaのロゴ
Qwen3.6 27B FP8
262k
オープン
37
$0.19
64
1.12
97.10
88.22
Kimiのロゴ
Kimi K2.5
262k
オープン
35
$0.07
44
0.79
79.10
67.01
Z AIのロゴ
GLM-5.1 (FP4)
203k
オープン
35*
--
55
1.06
10.19
--
Kimiのロゴ
Kimi K2.6 (FP4)
262k
オープン
35*
--
36
0.92
14.89
--
Alibabaのロゴ
Qwen3.5 27B (FP8)
262k
オープン
34*
--
62
0.96
41.08
32.10
Z AIのロゴ
GLM-4.7 (FP4)
203k
オープン
34
$0.10
35
0.93
72.37
57.15
Alibabaのロゴ
Qwen3.5 397B A17B (FP8)
262k
オープン
34
$0.19
52
0.93
71.30
60.83
MiniMaxのロゴ
MiniMax-M2.5 (FP8)
197k
オープン
34*
--
45
0.81
56.68
44.69
Z AIのロゴ
GLM-5 (FP8)
203k
オープン
32*
--
26
1.30
20.49
--
Alibabaのロゴ
Qwen3.5 122B A10B (FP4)
262k
オープン
32
$0.12
168
0.66
15.54
11.91
DeepSeekのロゴ
DeepSeek V3.2 (FP4)
164k
オープン
32
$0.08
16
1.18
155.89
123.77
Alibabaのロゴ
Qwen3.5 397B A17B (FP8)
262k
オープン
32*
--
44
0.92
12.39
--
Alibabaのロゴ
Qwen3.6 35B A3B (FP8)
262k
オープン
32
$0.09
59
0.64
99.92
90.86
Alibabaのロゴ
Qwen3.6 27B FP8
262k
オープン
30
$0.23
58
1.11
9.69
--
StepFunのロゴ
Step 3.7 Flash
256k
オープン
30
--
203
0.51
12.84
9.87
Googleのロゴ
Gemma 4 31B
262k
オープン
29
$0.01
28
1.71
82.55
62.77
Alibabaのロゴ
Qwen3.5 27B FP8
262k
オープン
29*
--
61
0.90
9.06
--
Alibabaのロゴ
Qwen3.5 35B A3B (FP8)
262k
オープン
29*
--
125
0.51
20.49
15.99
Z AIのロゴ
GLM-4.6 (FP4)
203k
オープン
29
--
44
0.98
57.67
45.36
Xiaomiのロゴ
MiMo-V2.5-Pro
65.5k
オープン
28*
--
122
0.95
5.03
--
Alibabaのロゴ
Qwen3.5 122B A10B (FP4)
262k
オープン
28
$0.09
190
0.65
3.28
--
Z AIのロゴ
GLM-4.7 (FP4)
203k
オープン
27*
--
32
1.03
16.69
--
Googleのロゴ
Gemma 4 26B A4B
262k
オープン
26
$0.03
31
0.69
82.53
65.47
NVIDIAのロゴ
NVIDIA Nemotron 3 Super
262k
オープン
25
$0.10
54
20.65
67.30
37.33
DeepSeekのロゴ
DeepSeek V3.2
164k
オープン
25*
--
13
1.78
38.84
--
Alibabaのロゴ
Qwen3.6 35B A3B (FP8)
262k
オープン
24
$0.29
40
0.78
13.19
--
Alibabaのロゴ
Qwen3.5 35B A3B FP8
262k
オープン
24
$0.07
125
0.53
4.54
--
OpenAIのロゴ
gpt-oss-120b (high)
131k
オープン
24
$0.02
45
0.64
56.43
44.64
OpenAIのロゴ
gpt-oss-120b (high) (Turbo)
131k
オープン
24
$0.08
173
0.71
15.14
11.55
Z AIのロゴ
GLM-4.7-Flash
203k
オープン
23*
--
53
0.78
47.65
37.49
Googleのロゴ
Gemma 4 31B (FP8)
262k
オープン
22
$0.03
26
1.64
21.09
--
DeepSeekのロゴ
DeepSeek V3.1 Terminus (FP4)
164k
オープン
21*
--
61
0.69
8.90
--
DeepSeekのロゴ
DeepSeek V3.1 (FP4)
164k
オープン
21*
--
10
1.08
48.72
--
Googleのロゴ
Gemma 4 26B A4B (FP8)
262k
オープン
20*
--
28
0.70
18.62
--
Alibabaのロゴ
Qwen3.5 4B (FP8)
262k
オープン
20*
--
31
0.72
81.78
64.84
DeepSeekのロゴ
DeepSeek R1 0528
164k
オープン
20*
--
24
0.83
102.99
81.73
Alibabaのロゴ
Qwen3 235B A22B 2507 (FP8)
262k
オープン
20
--
48
1.04
52.62
41.27
Alibabaのロゴ
Qwen3 235B 2507 (FP8)
262k
オープン
18*
--
19
0.65
27.59
--
Alibabaのロゴ
Qwen3 Coder 480B (Turbo, FP4)
262k
オープン
18*
--
60
0.80
9.16
--
Alibabaのロゴ
Qwen3.5 4B FP8
262k
オープン
16*
--
20
0.96
25.80
--
DeepSeekのロゴ
DeepSeek V3 0324 (FP4)
164k
オープン
15
$0.03
35
1.69
15.85
--
OpenAIのロゴ
gpt-oss-20b (high)
131k
オープン
15
$0.01
107
0.51
23.93
18.74
Mistralのロゴ
Mistral Small 3.1
128k
オープン
15
$0.02
25
0.93
20.91
--
Metaのロゴ
Llama 4 Maverick (FP8)
1.05M
オープン
14
$0.03
44
0.64
11.88
--
NVIDIAのロゴ
NVIDIA Nemotron 3 Nano
262k
オープン
14
$0.02
178
3.33
17.35
11.22
DeepSeekのロゴ
DeepSeek V3 (Dec)
164k
オープン
14
$0.02
19
1.55
27.22
--
Alibabaのロゴ
Qwen3 Next 80B A3B
262k
オープン
14*
--
137
0.64
4.30
--
NVIDIAのロゴ
Llama Nemotron Super 49B v1.5
131k
オープン
12*
--
77
5.85
38.48
26.10
Googleのロゴ
Gemma 4 E4B
262k
オープン
12
$0.01
81
0.83
31.78
24.75
Alibabaのロゴ
Qwen3 32B (FP8)
41k
オープン
12
--
74
0.61
34.56
27.16
Mistralのロゴ
Mistral Small 3.2 (FP8)
128k
オープン
11
$0.10
28
0.89
18.72
--
Alibabaのロゴ
Qwen3 14B (FP8)
32.8k
オープン
10
--
45
0.87
56.93
44.85
Metaのロゴ
Llama 4 Scout
328k
オープン
10
$0.01
55
0.63
9.71
--
DeepSeekのロゴ
DeepSeek R1 Distill Llama 70B
131k
オープン
10*
--
25
0.93
99.34
78.73
Alibabaのロゴ
Qwen2.5 72B
32.8k
オープン
10*
--
27
5.09
23.77
--
Metaのロゴ
Llama 3.3 70B (Turbo, FP8)
131k
オープン
9
$0.02
13
2.35
40.89
--
Alibabaのロゴ
Qwen3 30B (FP8)
41k
オープン
9*
--
76
0.55
33.31
26.21
NVIDIAのロゴ
NVIDIA Nemotron Nano 12B v2 VL (FP8)
131k
オープン
9*
--
80
7.19
38.62
25.14
Googleのロゴ
Gemma 4 E4B
262k
オープン
9*
--
82
0.80
6.89
--
NVIDIAのロゴ
NVIDIA Nemotron Nano 9B V2
131k
オープン
9*
--
179
5.20
19.13
11.15
NVIDIAのロゴ
Llama Nemotron Super 49B v1.5
131k
オープン
9*
--
90
6.74
12.32
--
Alibabaのロゴ
Qwen3 32B (FP8)
41k
オープン
9*
--
72
0.67
7.58
--
NVIDIAのロゴ
Llama 3.1 Nemotron 70B
131k
オープン
8*
--
93
6.63
12.00
--
Metaのロゴ
Llama 3.1 8B (Turbo, FP8)
131k
オープン
8
--
18
1.08
29.42
--
Metaのロゴ
Llama 3.1 8B
131k
オープン
8
--
16
1.11
31.59
--
Googleのロゴ
Gemma 3 27B
131k
オープン
7
$0.08
29
1.22
18.54
--
NVIDIAのロゴ
NVIDIA Nemotron 3 Nano
262k
オープン
7*
--
177
0.43
3.26
--
NVIDIAのロゴ
NVIDIA Nemotron Nano 9B V2
131k
オープン
7*
--
181
3.91
6.68
--
Alibabaのロゴ
Qwen3 14B (FP8)
41k
オープン
7*
--
41
0.86
13.01
--
Mistralのロゴ
Mistral Small 3
32.8k
オープン
7*
--
56
0.81
9.71
--
Alibabaのロゴ
Qwen3 30B (FP8)
41k
オープン
7*
--
73
0.52
7.33
--
Metaのロゴ
Llama 3.1 70B
131k
オープン
7*
--
33
1.93
16.90
--
Metaのロゴ
Llama 3.1 70B (Turbo, FP8)
131k
オープン
7*
--
35
1.65
15.81
--
Googleのロゴ
Gemma 3 12B
131k
オープン
6
$0.09
50
0.83
10.85
--
Nous Researchのロゴ
Hermes 3 - Llama-3.1 70B
131k
オープン
5*
--
33
1.97
17.05
--
Microsoftのロゴ
Phi-4
16.4k
オープン
5*
--
71
0.88
7.98
--
NVIDIAのロゴ
NVIDIA Nemotron Nano 12B v2 VL (FP8)
131k
オープン
5*
--
87
5.54
11.28
--
Metaのロゴ
Llama 3.2 11B (Vision)
131k
オープン
3*
--
37
1.70
15.08
--
Metaのロゴ
Llama 3 8B
8.19k
オープン
1*
--
--
--
--
--
Googleのロゴ
Gemma 3 4B
131k
オープン
1*
--
34
1.01
15.74
--

主要な定義

Maximum number of combined input & output tokens. Output tokens commonly have a significantly lower limit (varied by model).

よくある質問

DeepInfraに関するよくある質問

DeepInfraが提供し、当社が追跡しているモデルは97モデルです:GLM-5.2 (max) (FP4)DeepSeek V4 Flash 0731 (max)MiniMax-M3DeepSeek V4 Pro (max) (FP4)Kimi K2.6 (FP4)DeepSeek V4 Pro (high) (FP4)MiMo-V2.5-ProKimi K2.7 CodeHy3 (FP8)Inkling (FP8)DeepSeek V4 Flash (max) (FP4)Inkling SmallGLM-5.1 (FP4)GLM-5 (FP4)Nemotron 3 UltraNemotron 3 Ultra BF16DeepSeek V4 Flash (high) (FP4)MiMo-V2.5Qwen3.6 27B FP8Kimi K2.5GLM-5.1 (FP4)Kimi K2.6 (FP4)Qwen3.5 27B (FP8)GLM-4.7 (FP4)Qwen3.5 397B A17B (FP8)MiniMax-M2.5 (FP8)GLM-5 (FP8)Qwen3.5 122B A10B (FP4)DeepSeek V3.2 (FP4)Qwen3.5 397B A17B (FP8)Qwen3.6 35B A3B (FP8)Qwen3.6 27B FP8Step 3.7 FlashGemma 4 31BQwen3.5 27B FP8Qwen3.5 35B A3B (FP8)GLM-4.6 (FP4)MiMo-V2.5-ProQwen3.5 122B A10B (FP4)GLM-4.7 (FP4)Gemma 4 26B A4BNVIDIA Nemotron 3 SuperDeepSeek V3.2Qwen3.6 35B A3B (FP8)Qwen3.5 35B A3B FP8gpt-oss-120b (high)gpt-oss-120b (high) (Turbo)GLM-4.7-FlashGemma 4 31B (FP8)DeepSeek V3.1 Terminus (FP4)DeepSeek V3.1 (FP4)Gemma 4 26B A4B (FP8)Qwen3.5 4B (FP8)DeepSeek R1 0528Qwen3 235B A22B 2507 (FP8)Qwen3 235B 2507 (FP8)Qwen3 Coder 480B (Turbo, FP4)Qwen3.5 4B FP8DeepSeek V3 0324 (FP4)gpt-oss-20b (high)Mistral Small 3.1Llama 4 Maverick (FP8)NVIDIA Nemotron 3 NanoDeepSeek V3 (Dec)Qwen3 Next 80B A3BLlama Nemotron Super 49B v1.5Gemma 4 E4BQwen3 32B (FP8)Mistral Small 3.2 (FP8)Qwen3 14B (FP8)Llama 4 ScoutDeepSeek R1 Distill Llama 70BQwen2.5 72BLlama 3.3 70B (Turbo, FP8)Qwen3 30B (FP8)NVIDIA Nemotron Nano 12B v2 VL (FP8)Gemma 4 E4BNVIDIA Nemotron Nano 9B V2Llama Nemotron Super 49B v1.5Qwen3 32B (FP8)Llama 3.1 Nemotron 70BLlama 3.1 8B (Turbo, FP8)Llama 3.1 8BGemma 3 27BNVIDIA Nemotron 3 NanoNVIDIA Nemotron Nano 9B V2Qwen3 14B (FP8)Mistral Small 3Qwen3 30B (FP8)Llama 3.1 70BLlama 3.1 70B (Turbo, FP8)Gemma 3 12BHermes 3 - Llama-3.1 70BPhi-4NVIDIA Nemotron Nano 12B v2 VL (FP8)Llama 3.2 11B (Vision)Gemma 3 4B

DeepInfraで利用できるモデルのうち、知能が最も高いのはIntelligence Indexスコア51のGLM-5.2 (max) (FP4)です。

DeepInfraで出力速度が最も速いモデルは、毎秒202.7トークンのStep 3.7 Flashです。

DeepInfraで最初の回答トークンまでの時間が最短のモデルは、0.43秒のNVIDIA Nemotron 3 Nanoです。遅延が短いほど、最初の応答が速くなります。

DeepInfraでブレンド料金が最も安いモデルは、100万トークンあたり$0.02のLlama 3.1 8B (Turbo, FP8)です(キャッシュヒット/入力/出力を7:2:1とした場合)。

DeepInfraのモデル間では料金に最大55倍の差があり、Llama 3.1 8B (Turbo, FP8)の100万トークンあたり$0.02から、Llama 3.1 Nemotron 70Bの$1.20までとなっています。

はい。DeepInfraはOpenAI互換APIを提供しているため、OpenAIからの切り替えや既存のOpenAI SDK連携の利用が容易です。

DeepInfraの97モデル中94モデルが、構造化出力のJSONモードに対応しています。

DeepInfraの97モデル中94モデルが関数呼び出し(ツール利用)に対応しています。

はい。DeepInfraの全97モデルがオープンウェイトです。

はい。インフラストラクチャの変更、負荷分散、アップデートにより、プロバイダーの性能は時間とともに変化する場合があります。すべてのプロバイダーを継続的にベンチマークし、「推移」グラフに過去の性能傾向を表示しています。

DeepInfraのモデルを選ぶ際は、知能(品質を重視するタスク)、出力速度(高スループットが必要なタスク)、遅延(最初の応答の速さが必要な対話型アプリケーション)、料金(費用を重視するワークロード)、コンテキストウィンドウの規模、JSONモード、関数呼び出しへの対応などを検討してください。