This model is deprecated. We only continue performance benchmarking for the default 10k input token workload. Results for other workloads are historical and no longer updated.
Meta has launched a newer model, Llama 3.1 70B. We suggest considering it instead.
For more information, see comparison of Llama 3.1 70B to other models and API provider benchmarks for Llama 3.1 70B.
Llama 3 Instruct 70B: Analyse von Intelligenz, Leistung und Preis
Modellübersicht
Intelligenz
Geschwindigkeit
Eingabepreis
Ausgabepreis
Ausführlichkeit
Llama 3 Instruct 70B zählt bei der Intelligenz zu den unterdurchschnittlichen Modellen und ist besonders teuer im Vergleich zu anderen Modellen ohne Reasoning mit offenen Gewichten ähnlicher Größe. Das Modell unterstützt Text als Eingabe und Text als Ausgabe. Das Kontextfenster umfasst 8k Tokens, der Wissensstand reicht bis Dezember 2023.
Llama 3 Instruct 70B erzielt im Artificial Analysis Intelligence Index einen Wert von 3 und liegt damit unter dem Durchschnitt der vergleichbaren Modelle (Median: 7).
Der Preis für Llama 3 Instruct 70B beträgt $0.65 pro 1 Mio. Eingabetokens (teuer; Median: $0.18) und $2.75 pro 1 Mio. Ausgabetokens (teuer; Median: $0.40).
| Reasoning | Nein Diese Seite zeigt die Version dieses Modells ohne Reasoning. Möglicherweise gibt es auch eine Reasoning-Variante. |
|---|---|
| Eingabemodalität | Unterstützt: Text |
| Ausgabemodalität | Unterstützt: Text |
| Wissensstichtag | 01.12.2023 |
| Kontextfenster | 8k ~12 A4-Seiten in Arial mit Schriftgröße 12 |
| Gesamtparameter | 70B |
| Lizenz | META LLAMA 3 COMMUNITY LICENSE AGREEMENT |
| Modellgewichte | Hugging Face |
Metriken werden mit Modellen derselben Klasse verglichen:
- Modelle ohne Reasoning → Vergleich nur mit anderen Modellen ohne Reasoning
- Reasoning-Modelle → Vergleich mit Reasoning-Modellen und Modellen ohne Reasoning
- Modelle mit offenen Gewichten → Vergleich nur mit anderen Modellen mit offenen Gewichten derselben Größenklasse:
- Sehr klein: ≤4B Parameter
- Klein: 4B–40B Parameter
- Mittel: 40B–150B Parameter
- Groß: >150B Parameter
- Proprietäre Modelle → Vergleich mit proprietären Modellen und Modellen mit offenen Gewichten derselben Preisklasse anhand eines Mischpreisverhältnisses von 3:1 für Eingabe/Ausgabe:
- <$0.15 pro 1 Mio. Tokens
- $0.15–$1 pro 1 Mio. Tokens
- >$1 pro 1 Mio. Tokens
Wichtigste Ergebnisse
Geschwindigkeit
Intelligenz
Artificial Analysis Intelligence Index
Artificial Analysis Intelligence Index by Open Weights / Proprietary
Intelligence Evaluations
Agentic real-world work tasks, (Elo-500)/2000
Agentic tool use
Agentic coding & terminal use
Coding
Reasoning & knowledge
Scientific reasoning
Physics reasoning
Knowledge
1 - hallucination rate
Long context reasoning
Agentic knowledge work, Elo
Agentic SaaS workflows
Legal agentic work, criterion pass rate
Agentic business operations
Instruction following
Long-horizon agentic tasks
Kubernetes incident root-cause analysis
Visual reasoning
AA-Omniscience
AA-Omniscience Index
Openness Index
Artificial Analysis Openness Index: Score
Vergleiche des Intelligence Index
Intelligence Index vs. Cost per Intelligence Index Task
Kosten
Cost per Intelligence Index Task
Cost to Run Artificial Analysis Intelligence Index
Pricing: Cache Hit, Input, and Output
Kontextfenster
Context Window
Modellgröße (nur Modelle mit offenen Gewichten)
Model Size: Total and Active Parameters
Häufig gestellte Fragen
Häufige Fragen zu Llama 3 Instruct 70B
Llama 3 Instruct 70B wurde am 18. April 2024 veröffentlicht.
Llama 3 Instruct 70B wurde von Meta entwickelt.
Llama 3 Instruct 70B erzielt im Artificial Analysis Intelligence Index einen geschätzten Wert von 3 und liegt damit im Vergleich zu anderen Modellen ohne Reasoning mit offenen Gewichten ähnlicher Größe unter dem Durchschnitt (Median: 7).
Llama 3 Instruct 70B kostet $0.65 pro 1 Mio. Eingabetokens (etwas höher als der Durchschnitt; Median: $0.46) und $2.75 pro 1 Mio. Ausgabetokens (etwas höher als der Durchschnitt; Median: $0.71). Die Angaben basieren auf dem Median aller Anbieter, die das Modell bereitstellen.
Llama 3 Instruct 70B kostet $0.65 pro 1 Mio. Eingabetokens und $2.75 pro 1 Mio. Ausgabetokens (auf Grundlage des Medians aller Anbieter, die das Modell bereitstellen). Bei einem Mischpreis mit einem Verhältnis von 7:2:1 für Cache-Treffer, Eingabe und Ausgabe entspricht dies $0.86 pro 1 Mio. Tokens. Der Preis kann je nach Anbieter variieren. Preise der Anbieter vergleichen
Nein, Llama 3 Instruct 70B ist kein Reasoning-Modell. Es antwortet direkt, ohne längeres Chain-of-Thought-Reasoning.
Llama 3 Instruct 70B unterstützt Text als Eingabe.
Llama 3 Instruct 70B unterstützt Text als Ausgabe.
Nein, Llama 3 Instruct 70B unterstützt keine Bildeingaben. Es kann nur Text verarbeiten.
Nein, Llama 3 Instruct 70B ist nicht multimodal. Es unterstützt nur Text als Eingabe.
Llama 3 Instruct 70B hat ein Kontextfenster von 8.2k Tokens. Es bestimmt, wie viel Text und Gesprächsverlauf das Modell in einer einzelnen Anfrage verarbeiten kann.
Ja, Llama 3 Instruct 70B hat offene Gewichte. Die Modellgewichte sind öffentlich verfügbar und können zum Selbsthosten heruntergeladen werden.
Llama 3 Instruct 70B hat 70 Milliarden Parameter.
Llama 3 Instruct 70B wird unter der Lizenz META LLAMA 3 COMMUNITY LICENSE AGREEMENT veröffentlicht. Diese Lizenz erlaubt die kommerzielle Nutzung. Lizenz anzeigen
Llama 3 Instruct 70B erzielt im Artificial Analysis Intelligence Index einen Wert von 3. Dieser zusammengesetzte Benchmark bewertet Modelle in den Bereichen Schlussfolgern, Wissen, Mathematik und Programmierung.
Der Wissensstichtag von Llama 3 Instruct 70B ist Dezember 2023. Die Trainingsdaten des Modells enthalten Informationen bis zu diesem Datum.
Ja, Llama 3 Instruct 70B ist über 3 Anbieter per API verfügbar. API-Anbieter vergleichen
Llama 3 Instruct 70B ist über 3 API-Anbieter verfügbar. Anbieter vergleichen