Prompt-Caching: Kosten- und Leistungsanalyse über Anbieter hinweg

Prompt-Caching kann die Kosten für Eingabetokens um bis zu 90 % senken und macht Workloads mit langem Kontext wirtschaftlich. Vergleichen Sie Cache-Preise, Rabatte und API-Spezifikationen der großen KI-Anbieter.

Caching erfordert exakte Prompt-Übereinstimmungen und unterscheidet sich je nach Anbieter – einige wie OpenAI und DeepSeek bieten automatisches Caching, andere einschließlich Google, Anthropic und Amazon erfordern eine manuelle Einrichtung. Mehr dazu in unserer Einführung in Prompt-Caching weiter unten.

Preise

Preise: Cache-Treffer, Cache-Schreiben, Eingabe und Ausgabe

Price (USD per M Tokens)
No publicly available API

Cache-Rabatt

Preise: Cache-Rabatt

1 - (cache hit price / input price) · Higher is better
No publicly available API

API-Spezifikationen für Prompt-Caching

Anbieter
Modell
Eingabe (Standard)
Cache-Schreiben
Cache-Treffer
Cache-Speicher
Ausgabe (Standard)
Automatisch aktiviert
Min. Tokens
Cache-TTL
Hinweise
Amazon BedrockAmazon Bedrock
  • Amazon supports caching for Nova models and Anthropic's Claude models.
  • Pricing and usage differs between model families.
Claude Opus 5.5 (Max, Default Fallback)
$4.00
$5.00
$0.20
-
$20.00
-
-
Claude Sonnet 5.5 (Max, Default Fallback)
$2.00
$2.50
$0.10
-
$10.00
-
-
AnthropicAnthropic
  • Cache read tokens are 90% cheaper than base input tokens
  • Cache write tokens are 25% more expensive than base input tokens
Claude Opus 5.5 (Max, Default Fallback)
$4.00
$5.00
$0.20
-
$20.00
-
-
-
Claude Sonnet 5.5 (Max, Default Fallback)
$2.00
$2.50
$0.10
-
$10.00
-
-
-
GoogleGoogle
  • Google supports caching for Gemini models and Anthropic's Claude models.
  • Pricing and usage differs between model families.
Claude Opus 5.5 (Max, Default Fallback)
$4.00
$5.00
$0.20
-
$20.00
-
-
Claude Sonnet 5.5 (Max, Default Fallback)
$2.00
$2.50
$0.10
-
$10.00
-
-
Microsoft AzureMicrosoft Azure

OpenAI models:

  • Cache read tokens are 50% cheaper than base input tokens (Standard deployments)
  • Cache persists up to one hour during off-peak periods
Claude Opus 5.5 (Max, Default Fallback)
$4.00
$5.00
$0.20
-
$20.00
-
-
Claude Sonnet 5.5 (Max, Default Fallback)
$2.00
$2.50
$0.10
-
$10.00
-
-
OpenAIOpenAI
  • Cache read tokens are 50% cheaper than base input tokens
  • Cache persists up to one hour during off-peak periods
GPT-6 Astra (Max)
$10.00
$12.50
$1.00
-
$50.00
-
-
-
GPT-6 Astra (Max)
$20.00
$25.00
$2.00
-
$100.00
-
-
-
MetaMeta
Muse Wonder (Max)
$4.00
-
$0.20
-
$20.00
-
-
Muse Spark 1.3 (Max)
$1.25
-
$0.15
-
$4.25
-
-
SpaceXAISpaceXAI
  • Prompt caching is not 100% guaranteed.
Grok 4.7 (Xhigh)
$2.00
-
$0.50
-
$6.00
-
-
DeepInfraDeepInfra
  • Prompt caching is automatic — no extra parameters required.
MiMo-V2.6-Pro
$0.43
-
$0.00
-
$0.87
-
-
GLM-5.3 (Max)
$0.56
-
$0.13
-
$2.50
-
-
GMIGMI
MiMo-V2.6-Pro
$0.43
-
$0.00
-
$0.87
-
-
GLM-5.3 (Max)
$0.98
-
$0.18
-
$3.08
-
-
NovitaNovita
MiMo-V2.6-Pro
$0.43
-
$0.00
-
$0.87
-
-
GLM-5.3 (Max)
$1.40
-
$0.26
-
$4.40
-
-
-
PrimaLabsPrimaLabs
MiMo-V2.6-Pro
$0.43
-
$0.00
-
$0.87
-
-
GLM-5.3-Flash
$0.15
-
$0.03
-
$0.50
-
-
XiaomiXiaomi
MiMo-V2.6-Pro
$0.43
-
$0.00
-
$0.87
-
-
Alibaba CloudAlibaba Cloud
  • Alibaba offers two cache types: implicit and explicit.
  • Implicit cache is automatically enabled. It is billed at 20% of the standard input token price.
  • Explicit cache must be activated. It creates a cache for specific content to ensure a deterministic hit within its 5-minute validity period. Tokens used to create the cache are billed at 125% of the standard input token price, while subsequent cache hits are billed at 10% of that price.
Qwen3.8 Max (0902)
$2.00
-
$0.25
-
$6.00
-
-
Qwen3.8 27B (Xhigh)
$0.50
-
$0.10
-
$3.00
-
-
BasetenBaseten
GLM-5.3 (Max)
$1.40
-
$0.14
-
$4.40
-
-
GLM-5.3 (Max)
$2.10
-
$0.21
-
$6.60
-
-
Bitdeer AIBitdeer AI
GLM-5.3 (Max)
$1.40
-
$0.14
-
$4.40
-
-
GLM-5.3-Flash
$0.13
-
$0.03
-
$0.42
-
-
CrusoeCrusoe
GLM-5.3 (Max)
$1.40
-
$0.26
-
$4.40
-
-
GLM-5.3-Flash
$0.15
-
$0.03
-
$0.50
-
-
DatabricksDatabricks
GLM-5.3 (Max)
$1.40
-
$0.26
-
$4.40
-
-
Kimi K3 (Max)
$3.00
-
$0.30
-
$15.00
-
-
DigitalOceanDigitalOcean
GLM-5.3 (Max)
$1.40
-
$0.26
-
$4.40
-
-
Kimi K3 (Max)
$3.00
-
$0.30
-
$15.00
-
-
FriendliAIFriendliAI
GLM-5.3 (Max)
$1.26
-
$0.23
-
$3.96
-
-
GLM-5.3-Flash
$0.15
-
$0.03
-
$0.50
-
-
IncoInco
GLM-5.3 (Max)
$2.80
-
$0.52
-
$8.80
-
-
GLM-5.3 (Max)
$1.40
-
$0.26
-
$4.40
-
-
LithosAILithosAI
GLM-5.3 (Max)
$1.05
-
$0.20
-
$3.30
-
-
GLM-5.3 (Max)
$2.10
-
$0.39
-
$6.60
-
-
MakoraMakora
GLM-5.3 (Max)
$0.14
-
$0.10
-
$4.40
-
-
Kimi K3 (Max)
$1.53
-
$0.20
-
$12.75
-
-
ModalModal
GLM-5.3 (Max)
$1.40
-
$0.26
-
$4.40
-
-
Kimi K3 (Max)
$3.00
-
$0.30
-
$15.00
-
-
ModularModular
GLM-5.3 (Max)
$1.40
-
$0.26
-
$4.40
-
-
MiniMax-M3
$0.30
-
$0.06
-
$1.20
-
-
Multiverse ComputingMultiverse Computing
GLM-5.3 (Max)
$1.10
-
$0.22
-
$3.50
-
-
ParasailParasail
GLM-5.3 (Max)
$1.40
-
$0.26
-
$4.40
-
-
Kimi K3 (Max)
$3.00
-
$0.30
-
$15.00
-
-
-
SupernovaSupernova
GLM-5.3 (Max)
$0.63
-
$0.12
-
$1.98
-
-
GLM-5.3 (Max)
$2.80
-
$0.52
-
$8.80
-
-
Together AITogether AI
GLM-5.3 (Max)
$1.40
-
$0.26
-
$4.40
-
-
Kimi K3 (Max)
$2.70
-
$0.27
-
$13.50
-
-
WaferWafer
GLM-5.3 (Max)
$1.40
-
$0.26
-
$4.40
-
-
GLM-5.3-Flash
$0.15
-
$0.03
-
$0.50
-
-
ZaiZai
GLM-5.3 (Max)
$1.40
-
$0.26
-
$4.40
-
-
GLM-5.3-Flash
$0.15
-
$0.03
-
$0.50
-
-
StepFunStepFun
Step 5 Preview
$1.00
-
$0.10
-
$2.70
-
-
FireworksFireworks
  • Prompt caching is enabled by default.
  • The default discount is 50%, but the exact discount varies by model.
Kimi K3 (Max)
$3.00
-
$0.30
-
$15.00
-
-
Kimi K3 (Max)
$4.50
-
$0.45
-
$22.50
-
-
KimiKimi
Kimi K3 (Max)
$3.00
-
$0.30
-
$15.00
-
-
CoreWeaveCoreWeave
GLM-5.3-Flash
$0.15
-
$0.05
-
$0.50
-
-
DeepSeek V4.1 Flash (Max)
$0.20
-
$0.03
-
$0.65
-
-
SiliconFlowSiliconFlow
GLM-5.3-Flash
$0.15
-
$0.03
-
$0.50
-
-
DeepSeek V4.1 Flash (Max)
$0.15
-
$0.00
-
$0.60
-
-
DeepSeekDeepSeek
  • Cache read tokens are 50% cheaper on average (up to 90% with cache optimization)
  • Implements Context Caching on Disk technology
  • No guarantee of 100% cache hits
DeepSeek V4.1 Flash (Max)
$0.30
-
$0.01
-
$1.20
-
-
MistralMistral
Mistral Large 4 Preview
$1.36
$1.36
$0.14
-
$4.18
-
-
-
SystalyzeSystalyze
Muse Glimmer (High)
$0.10
-
$0.01
-
$1.00
-
-
MiniMaxMiniMax
  • MiniMax supports Anthropic API compatible caching that is managed through explicit cache_control settings.
MiniMax-M3
$0.30
$0.38
$0.06
-
$1.20
-
-
Thinking MachinesThinking Machines
Inkling (Xhigh)
$1.00
-
$0.17
-
$4.05
-
-
-

Einführung in Prompt-Caching

Was ist Prompt-Caching?

Prompt-Caching ermöglicht es der Inferenz von Sprachmodellen, bereits verarbeitete Eingabetokens wiederzuverwenden, ihre Kosten um bis zu 90 % zu senken und Workloads mit langem Kontext wirtschaftlich zu machen. Wer Caching richtig angeht, kann bei Eingabetokens stark sparen und spürbare Leistungsvorteile erzielen.

Wenn Sie einen Prompt senden, prüft das System zuerst, ob genau dieser Prompt bereits verarbeitet wurde. Bei einem Treffer (Cache-Hit) wird die gespeicherte Antwort zurückgegeben, statt eine neue zu erzeugen. Wird nichts gefunden (Cache-Miss), wird der Prompt normal verarbeitet und die Antwort für die spätere Nutzung gespeichert.

Wichtige Kennzahlen

  • Eingabepreis: Der Standardpreis, den Sie für Eingabetokens zahlen
  • Cache-Schreibpreis: Was Sie zahlen, um Prompt-Tokens im Cache zu speichern; manchmal höher als der Standard-Eingabepreis
  • Preis bei Cache-Treffer: Reduzierter Satz für Prompt-Tokens, die den Cache treffen
  • Cache-Speicherpreis: Stündliche Kosten pro Million gecachter Tokens (derzeit nur bei Google)
  • Cache-TTL: Die Zeit, für die gecachte Tokens verfügbar bleiben, von Stunden bis Tagen
  • Mindestanzahl Cache-Tokens: Mindestzahl übereinstimmender Tokens, bevor ein Cache-Treffer ausgeliefert wird

Wie funktioniert Prompt-Caching?

Wenn Sie einen Prompt an ein transformer-basiertes Sprachmodell senden, verarbeiten die Attention-Schichten jedes Eingabetoken zu Key- (K) und Value-Vektoren (V), die im KV-Cache gespeichert werden. Bleiben diese Werte im Speicher, kann die Verarbeitung der Eingabetokens entfallen, wenn erneut identische Eingabetokens an das Modell gesendet werden.

Bis vor kurzem waren die Geschwindigkeits- und Kostenvorteile des Cachings nur in dedizierten Deployments nutzbar. Inzwischen geben serverless-API-Anbieter – einschließlich der Frontier-Labs – einen Teil der Kostenvorteile des Cachings an Entwickler weiter.

Optimale Anwendungsfälle

  • Systemanweisungen: Große Systemprompts, die in vielen Interaktionen enthalten sein müssen
  • Chatverlauf: Gesprächskontext, der jede neue Nutzeräußerung begleitet
  • Personalisierter Kontext pro Nutzer: Umfangreiche Nutzermemories oder Profile für tiefe Personalisierung

Hinweise zur Umsetzung

  • Die Aktivierung unterscheidet sich je nach Anbieter – manche erfordern eine manuelle Einrichtung, andere bieten automatisches Caching
  • Rabatte bei Cache-Treffern liegen bei 50–90 % unter dem Standardpreis für Eingabetokens – es lohnt sich, das richtig umzusetzen
  • Caching verbessert die Leistung bei sehr langen Prompts (50k+ Tokens)