This model is deprecated. We only continue performance benchmarking for the default 10k input token workload. Results for other workloads are historical and no longer updated.

Meta has launched a newer model, Llama 3.1 70B. We suggest considering it instead.

For more information, see comparison of Llama 3.1 70B to other models and API provider benchmarks for Llama 3.1 70B.

Llama 3 Instruct 70B logo
Meta
•

Open weights model

•

Released April 2024

Llama 3 Instruct 70Bの知能、性能、料金の分析

APIプロバイダーのベンチマーク

モデル概要

知能

3
Artificial Analysis Intelligence Index
知能は4段階中2です。

速度

該当なし
1秒あたりの出力トークン数
速度は4段階中不明です。

入力料金

$0.65
100万トークンあたりのUSD
入力料金は4段階中4です。

出力料金

$2.75
100万トークンあたりのUSD
出力料金は4段階中4です。

冗長性

該当なし
Intelligence Indexでの出力トークン数
冗長性は4段階中不明です。

Llama 3 Instruct 70Bの知能は平均を下回ります。料金は特に高価です。これは同程度の規模の他の非推論オープンウェイトモデルと比較した場合です。 このモデルはテキスト入力に対応し、テキストを出力します。コンテキストウィンドウは8kトークンで、知識は2023年12月までです。

Llama 3 Instruct 70BのArtificial Analysis Intelligence Indexスコアは3で、同等のモデルの中では平均以下です（中央値：7）。

Llama 3 Instruct 70Bの料金は入力100万トークンあたり$0.65（高価、中央値：$0.18）、出力100万トークンあたり$2.75（高価、中央値：$0.40）です。

推論いいえ

このページでは、このモデルの非推論版を表示しています。

推論版も存在する可能性があります。

入力モダリティ

対応：テキスト

出力モダリティ

対応：テキスト

知識のカットオフ2023/12/01
コンテキストウィンドウ8k
Arial 12ポイントのA4用紙約12ページ分
総パラメーター数70B
ライセンスMETA LLAMA 3 COMMUNITY LICENSE AGREEMENT
モデルウェイトHugging Face

各指標は同じクラスのモデルと比較します。

  • 非推論モデル → 他の非推論モデルとのみ比較
  • 推論モデル → 推論モデルと非推論モデルの両方と比較
  • オープンウェイトモデル → 同じ規模クラスの他のオープンウェイトモデルとのみ比較：
    • 極小：パラメーター数≤4B
    • 小：パラメーター数4B～40B
    • 中：パラメーター数40B～150B
    • 大：パラメーター数>150B
  • 独自モデル → 入力／出力のブレンド料金を3:1として、同じ料金帯の独自モデルとオープンウェイトモデルを比較：
    • 100万トークンあたり<$0.15
    • 100万トークンあたり$0.15～$1
    • 100万トークンあたり>$1

ハイライト

知能

Artificial Analysis Intelligence Index · Higher is better

速度

Output tokens per second · Higher is better

タスクあたりの費用

Weighted average cost (USD) per Intelligence Index task · Lower is better

知能

Artificial Analysis Intelligence Index

Artificial Analysis Intelligence Index v4.1 incorporates 9 evaluations: GDPval-AA v2, 𝜏³-Banking, Terminal-Bench v2.1, SciCode, Humanity's Last Exam, GPQA Diamond, CritPt, AA-Omniscience, AA-LCR
Estimate (independent evaluation forthcoming)
Reasoning models are indicated by a lightbulb icon

Artificial Analysis Intelligence Index v4.1 includes: GDPval-AA v2, 𝜏³-Banking, Terminal-Bench v2.1, SciCode, Humanity's Last Exam, GPQA Diamond, CritPt, AA-Omniscience, AA-LCR. See Intelligence Index methodology for further details, including a breakdown of each evaluation and how we run them.

Artificial Analysis Intelligence Index by Open Weights / Proprietary

Artificial Analysis Intelligence Index v4.1 incorporates 9 evaluations: GDPval-AA v2, 𝜏³-Banking, Terminal-Bench v2.1, SciCode, Humanity's Last Exam, GPQA Diamond, CritPt, AA-Omniscience, AA-LCR
Estimate (independent evaluation forthcoming)
Reasoning models are indicated by a lightbulb icon

Artificial Analysis Intelligence Index v4.1 includes: GDPval-AA v2, 𝜏³-Banking, Terminal-Bench v2.1, SciCode, Humanity's Last Exam, GPQA Diamond, CritPt, AA-Omniscience, AA-LCR. See Intelligence Index methodology for further details, including a breakdown of each evaluation and how we run them.

Indicates whether the model weights are available. Models are labelled as 'Commercial Use Restricted' if the weights are available but commercial use is limited (typically requires obtaining a paid license).

ベンチマーク

Intelligence Evaluations

Intelligence evaluations measured independently by Artificial Analysis · Higher is better
GDPval-AA v2

Agentic real-world work tasks, (Elo-500)/2000

𝜏³-Banking

Agentic tool use

Terminal-Bench v2.1

Agentic coding & terminal use

SciCode

Coding

Humanity's Last Exam

Reasoning & knowledge

GPQA Diamond

Scientific reasoning

CritPt

Physics reasoning

AA-Omniscience Accuracy

Knowledge

AA-Omniscience Non-Hallucination Rate

1 - hallucination rate

AA-LCR

Long context reasoning

AA-Briefcase

Agentic knowledge work, Elo

AutomationBench-AA

Agentic SaaS workflows

Harvey LAB-AA

Legal agentic work, criterion pass rate

EnterpriseOps-Gym-AANew

Agentic business operations

IFBench

Instruction following

APEX-Agents-AA

Long-horizon agentic tasks

ITBench-AA

Kubernetes incident root-cause analysis

MMMU-Pro

Visual reasoning

Reasoning models are indicated by a lightbulb icon

While model intelligence generally translates across use cases, specific evaluations may be more relevant for certain use cases.

Artificial Analysis Intelligence Index v4.1 includes: GDPval-AA v2, 𝜏³-Banking, Terminal-Bench v2.1, SciCode, Humanity's Last Exam, GPQA Diamond, CritPt, AA-Omniscience, AA-LCR. See Intelligence Index methodology for further details, including a breakdown of each evaluation and how we run them.

AA-Omniscience

AA-Omniscience Index

AA-Omniscience Index (higher is better) measures knowledge reliability and hallucination. It rewards correct answers, penalizes hallucinations, and has no penalty for refusing to answer. Scores range from -100 to 100, where 0 means as many correct as incorrect answers, and negative scores mean more incorrect than correct.
Reasoning models are indicated by a lightbulb icon

AA-Omniscience Index (higher is better) measures knowledge reliability and hallucination. It rewards correct answers, penalizes hallucinations, and has no penalty for refusing to answer. Scores range from -100 to 100, where 0 means as many correct as incorrect answers, and negative scores mean more incorrect than correct.

Openness Index

Artificial Analysis Openness Index: Score

Openness Index assesses model openness on a 0 to 100 normalized scale (higher is more open)
Reasoning models are indicated by a lightbulb icon

Intelligence Indexの比較

Intelligence Index vs. Cost per Intelligence Index Task

Artificial Analysis Intelligence Index · Weighted average cost (USD) per Artificial Analysis Intelligence Index task
Most attractive quadrant
Pareto line
Reasoning models are indicated by a lightbulb icon

Weighted average cost per Intelligence Index task. Each evaluation’s cost is calculated from input, cache hit, cache write, reasoning, and answer token prices, divided by task count, and weighted by its Intelligence Index weight.

Artificial Analysis Intelligence Index v4.1 includes: GDPval-AA v2, 𝜏³-Banking, Terminal-Bench v2.1, SciCode, Humanity's Last Exam, GPQA Diamond, CritPt, AA-Omniscience, AA-LCR. See Intelligence Index methodology for further details, including a breakdown of each evaluation and how we run them.

費用

Cost per Intelligence Index Task

Weighted average cost (USD) per Artificial Analysis Intelligence Index task, segmented by token type. Lower is better
Reasoning models are indicated by a lightbulb icon

Weighted average cost per Intelligence Index task. Each evaluation’s cost is calculated from input, cache hit, cache write, reasoning, and answer token prices, divided by task count, and weighted by its Intelligence Index weight.

Cost to Run Artificial Analysis Intelligence Index

Cost (USD) to run all evaluations in the Artificial Analysis Intelligence Index
Reasoning models are indicated by a lightbulb icon

The cost to run the evaluations in the Artificial Analysis Intelligence Index, calculated using the model's input, cache hit, cache write, reasoning, and answer token prices and the number of tokens used across evaluations (excluding repeats).

Pricing: Cache Hit, Input, and Output

Price (USD per M Tokens)
Reasoning models are indicated by a lightbulb icon

Price per token for cached prompts (previously processed), typically offering a significant discount compared to regular input price, represented as USD per million tokens. The values shown here are the cache hit price; cache write and cache storage are billed separately and vary by provider — see "Cache pricing by provider" for detail.

コンテキストウィンドウ

Context Window

Context window: tokens limit · Higher is better
Reasoning models are indicated by a lightbulb icon

Larger context windows are relevant to RAG (Retrieval Augmented Generation) LLM workflows which typically involve reasoning and information retrieval of large amounts of data.

Maximum number of combined input & output tokens. Output tokens commonly have a significantly lower limit (varied by model).

モデル規模（オープンウェイトモデルのみ）

Model Size: Total and Active Parameters

Comparison between total model parameters and parameters active during inference
Reasoning models are indicated by a lightbulb icon

The total number of trainable weights and biases in the model, expressed in billions. These parameters are learned during training and determine the model's ability to process and generate responses.

The number of parameters actually executed during each inference forward pass, expressed in billions. For Mixture of Experts (MoE) models, a routing mechanism selects a subset of experts per token, resulting in fewer active than total parameters. Dense models use all parameters, so active equals total.

よくある質問

Llama 3 Instruct 70Bに関するよくある質問

Llama 3 Instruct 70Bは2024年4月18日にリリースされました。

Llama 3 Instruct 70BはMetaが開発しました。

Llama 3 Instruct 70BのArtificial Analysis Intelligence Indexの推定スコアは3で、同程度の規模の他の非推論オープンウェイトモデルの中では平均以下水準です（中央値：7）。

Llama 3 Instruct 70Bの料金は入力100万トークンあたり$0.65（平均よりやや高い、中央値：$0.46）、出力100万トークンあたり$2.75（平均よりやや高い、中央値：$0.71）です。このモデルを提供するプロバイダー間の中央値に基づきます。

Llama 3 Instruct 70Bの料金は入力100万トークンあたり$0.65、出力100万トークンあたり$2.75です（このモデルを提供するプロバイダー間の中央値に基づく）。キャッシュヒット／入力／出力を7:2:1とするブレンド料金は、100万トークンあたり$0.86です。料金はプロバイダーによって異なる場合があります。 プロバイダー料金を比較

いいえ。Llama 3 Instruct 70Bは推論モデルではありません。思考の連鎖による長い推論を行わず、直接回答します。

Llama 3 Instruct 70Bはテキスト入力に対応しています。

Llama 3 Instruct 70Bはテキスト出力に対応しています。

いいえ。Llama 3 Instruct 70Bは画像入力に対応していません。処理できるのはテキストのみです。

いいえ。Llama 3 Instruct 70Bはマルチモーダルではなく、テキスト入力のみに対応しています。

Llama 3 Instruct 70Bのコンテキストウィンドウは8.2kトークンです。これは、モデルが1回のリクエストで処理できるテキストと会話履歴の量を決定します。

はい。Llama 3 Instruct 70Bはオープンウェイトモデルです。モデルウェイトが一般公開されており、ダウンロードしてセルフホストできます。

Llama 3 Instruct 70Bのパラメーター数は70Bです。

Llama 3 Instruct 70BはMETA LLAMA 3 COMMUNITY LICENSE AGREEMENTライセンスで公開されており、商用利用が認められています。 ライセンスを表示

Llama 3 Instruct 70BのArtificial Analysis Intelligence Indexスコアは3です。この複合ベンチマークでは、推論、知識、数学、コーディングについてモデルを評価します。

Llama 3 Instruct 70Bの知識のカットオフは2023年12月です。モデルの学習データには、この日付までの情報が含まれます。

はい。Llama 3 Instruct 70Bは3社のプロバイダーを通じてAPIで利用できます。 APIプロバイダーを比較

Llama 3 Instruct 70Bは3社のAPIプロバイダーを通じて利用できます。 プロバイダーを比較