이 모델은 더 이상 권장되지 않습니다. 성능 벤치마킹은 계속하지만 빈도를 낮춰 6시간마다가 아닌 18시간마다 측정합니다.

Meta에서 새 버전인 Llama 3.1 Instruct 8B을 출시했습니다. 이 버전 사용을 고려해 보세요.

모든 릴리스•

Llama 3 Instruct 8B: 지능, 성능 및 가격 분석

이용 가능한 제공업체

지능Updated

N/A

Artificial Analysis Intelligence Index

성능

첫 답변 토큰까지 걸린 시간 0.48초출력 속도 62 tok/s

N/A

Intelligence Index 작업당 시간(분)

비용

입력 $0.045출력 $0.14

N/A

Intelligence Index 작업당 비용

장황성

N/A

Intelligence Index의 출력 토큰 수

Llama 3 Instruct 8B의 지원 입력은 텍스트, 출력은 텍스트이며, 컨텍스트 창은 8k토큰이고 학습 데이터 기준일은 2023년 3월입니다.

Llama 3 Instruct 8B의 입력 토큰 100만 개당 가격은 $0.045(경쟁력 있는 가격, 중앙값: $0.13)이며, 출력 토큰 100만 개당 가격은 $0.14(경쟁력 있는 가격, 중앙값: $0.25)입니다.

추론	아니요
입력 모달리티	지원: 텍스트
출력 모달리티	지원: 텍스트
학습 데이터 기준일	2023. 3. 1.
컨텍스트 창	8k Arial 12포인트 기준 A4 약 12페이지
총 파라미터 수	8B
라이선스	META LLAMA 3 COMMUNITY LICENSE AGREEMENT
모델 웨이트	Hugging Face

동일한 등급의 모델과 지표를 비교합니다.

비추론 모델 → 다른 비추론 모델과만 비교
추론 모델 → 추론 및 비추론 모델 모두와 비교
오픈 웨이트 모델 → 같은 크기 등급의 다른 오픈 웨이트 모델과만 비교:

초소형: 파라미터 ≤4B
소형: 파라미터 4B~40B
중형: 파라미터 40B~150B
대형: 파라미터 >150B

독점 모델 → 입력/출력 가격을 3:1로 혼합해 같은 가격대의 독점 모델 및 오픈 웨이트 모델과 비교:

100만 토큰당 <$0.15
100만 토큰당 $0.15~$1
100만 토큰당 >$1

Updated

지능

Artificial Analysis Intelligence Index · Higher is better

No publicly available API

작업당 시간

Inference time (minutes) per Intelligence Index task · Lower is better

No publicly available API

작업당 비용

Weighted average cost (USD) per Intelligence Index task · Lower is better

No publicly available API

지능Updated

Artificial Analysis Intelligence Index

Artificial Analysis Intelligence Index v5.0.1 incorporates 9 evaluations: AA-Briefcase v1.1, AutomationBench-AA, Terminal-Bench 4.0, FrontierCode-AA 2.0, AA-Omniscience v1.1, GDP.pdf, HLE-Diamond, CritPt v2 (Hard Subset), and Terminal-Bench-Science 0.1

Artificial Analysis Intelligence Index v5.0.1 includes: AA-Briefcase v1.1, AutomationBench-AA, Terminal-Bench 4.0, FrontierCode-AA 2.0, AA-Omniscience v1.1, GDP.pdf, HLE-Diamond, CritPt v2 (Hard Subset), Terminal-Bench-Science 0.1. See Intelligence Index methodology for further details, including a breakdown of each evaluation and how we run them.

Artificial Analysis Intelligence Index: 오픈 웨이트와 독점 모델

Indicates whether the model weights are available. Models are labelled as 'Commercial Use Restricted' if commercial use is limited by conditions, and as 'Non-commercial' if the license prohibits commercial use.

Intelligence Index와 작업당 비용

Artificial Analysis Intelligence Index · Weighted average cost (USD) per Artificial Analysis Intelligence Index task

Most attractive quadrant

Weighted average cost per Intelligence Index task. Each evaluation’s cost is calculated from input, cache hit, cache write, reasoning, and answer token prices, divided by task count, and weighted by its Intelligence Index weight.

Openness Index

Artificial Analysis Openness Index: 점수

Openness Index는 모델의 개방성을 0~100으로 정규화해 평가합니다(높을수록 더 개방적)

비용

Intelligence Index 작업당 비용

Weighted average cost (USD) per Intelligence Index task · Segmented by token type · Lower is better

Artificial Analysis Intelligence Index 실행 비용

Cost (USD) to run all evaluations in the Artificial Analysis Intelligence Index

The cost to run the evaluations in the Artificial Analysis Intelligence Index, calculated using the model's input, cache hit, cache write, reasoning, and answer token prices and the number of tokens used across evaluations (excluding repeats).

가격: 캐시 적중, 입력 및 출력

Price (USD per M Tokens)

Price per token for cached prompts (previously processed), typically offering a significant discount compared to regular input price, represented as USD per million tokens. The values shown here are the cache hit price; cache write and cache storage are billed separately and vary by provider — see "Cache pricing by provider" for detail.

성능

작업당 시간(분), 출력 속도(초당 토큰 수), 첫 답변 토큰까지 걸린 시간과 첫 토큰까지 걸린 시간(초)으로 측정

Intelligence Index 작업당 시간

Output tokens divided by end-to-end output speed (minutes per Intelligence Index task) · Speed at the model's own endpoint or the median across providers · Lower is better

The weighted average time (minutes) per Artificial Analysis Intelligence Index task: output tokens per task divided by output speed, weighted by each benchmark's weight in the Intelligence Index.

Speed and latency metrics average each endpoint's runs over the past 5 days, and the error rate pools them. We run the benchmark every 6 hours, and endpoints of deprecated models every 18 hours.

출력 속도

Output tokens divided by total request time, including time to first token · Higher is better

Output tokens, including reasoning tokens, received per second over a request's full duration, from sending the request to receiving the final token. The headline value averages each Performance v3 workload over the past 5 days, then averages the workloads.

첫 답변 토큰까지 걸린 시간

첫 답변 토큰 수신까지의 초 · 추론 모델의 ‘생각’ 시간 포함

Time to first answer token received, in seconds, after API request sent. For reasoning models, this includes the 'thinking' time of the model before providing an answer. For models which do not support streaming, this represents time to receive the completion.

컨텍스트 창

Context window: tokens limit · Higher is better

Larger context windows are relevant to RAG (Retrieval Augmented Generation) LLM workflows which typically involve reasoning and information retrieval of large amounts of data.

Maximum number of combined input & output tokens. Output tokens commonly have a significantly lower limit (varied by model).

모델 크기(오픈 웨이트 모델만 해당)

모델 크기: 총 매개변수와 활성 매개변수

Comparison between total model parameters and parameters active during inference (billions)

The total number of trainable weights and biases in the model, expressed in billions. These parameters are learned during training and determine the model's ability to process and generate responses.

The number of parameters actually executed during each inference forward pass, expressed in billions. For Mixture of Experts (MoE) models, a routing mechanism selects a subset of experts per token, resulting in fewer active than total parameters. Dense models use all parameters, so active equals total.

상세 정보

								웨이트
Llama 3 Instruct 8B	Meta	-	8B	8k	$0.055	-	62	🤗

Meta의 다른 릴리스

자주 묻는 질문

Llama 3 Instruct 8B에 관한 일반적인 질문

Llama 3 Instruct 8B 모델은 2024년 4월 18일에 출시되었습니다.

Llama 3 Instruct 8B 모델은 Meta에서 개발했습니다.

Llama 3 Instruct 8B의 첫 답변 토큰까지 걸린 시간은 0.48초이며(이 모델을 제공하는 제공업체 중앙값 기준), 크기가 비슷한 다른 비추론 오픈 웨이트 모델과 비교하면 매우 경쟁력 있습니다(중앙값: 2.43초).

Llama 3 Instruct 8B의 입력 토큰 100만 개당 가격은 $0.045(매우 경쟁력 있음, 중앙값: $0.13)이며, 출력 토큰 100만 개당 가격은 $0.14(매우 경쟁력 있음, 중앙값: $0.25)입니다(이 모델을 제공하는 제공업체 중앙값 기준).

Llama 3 Instruct 8B의 입력 토큰 100만 개당 가격은 $0.045, 출력 토큰 100만 개당 가격은 $0.14입니다(이 모델을 제공하는 제공업체 중앙값 기준). 캐시 적중/입력/출력 비율을 7:2:1로 가정한 혼합 가격은 100만 토큰당 $0.055입니다. 가격은 제공업체마다 다를 수 있습니다. 제공업체 가격 비교

아니요. Llama 3 Instruct 8B 모델은 추론 모델이 아닙니다. 확장된 연쇄적 사고 추론 없이 바로 답변합니다.

Llama 3 Instruct 8B 모델은 텍스트 입력을 지원합니다.

Llama 3 Instruct 8B 모델은 텍스트 출력을 지원합니다.

아니요. Llama 3 Instruct 8B 모델은 이미지 입력을 지원하지 않으며 텍스트만 처리할 수 있습니다.

아니요. Llama 3 Instruct 8B 모델은 멀티모달 모델이 아니며 텍스트 입력만 지원합니다.

Llama 3 Instruct 8B의 컨텍스트 창은 8k토큰입니다. 모델이 단일 요청에서 처리할 수 있는 텍스트와 대화 기록의 양을 결정합니다.

예. Llama 3 Instruct 8B 모델은 오픈 웨이트이며 모델 웨이트가 공개되어 있어 다운로드한 뒤 자체 호스팅할 수 있습니다.

Llama 3 Instruct 8B의 파라미터 수는 8B입니다.

Llama 3 Instruct 8B 모델은 META LLAMA 3 COMMUNITY LICENSE AGREEMENT 라이선스로 공개되었습니다. 상업적 이용은 제한 하에 허용됩니다. 라이선스 보기

Llama 3 Instruct 8B의 학습 데이터 기준일은 2023년 3월입니다. 모델의 학습 데이터에는 이 날짜까지의 정보가 포함됩니다.

예. Llama 3 Instruct 8B 모델은 API 제공업체 4곳을 통해 제공됩니다. API 제공업체 비교

Llama 3 Instruct 8B 모델은 API 제공업체 4곳을 통해 제공됩니다. 제공업체 비교

Llama 3 Instruct 8B: 지능, 성능 및 가격 분석

모델 요약

지능Updated

성능

비용

장황성

기술 사양

이 등급의 모델 75개

지능

작업당 시간

작업당 비용

지능Updated

Artificial Analysis Intelligence Index

Artificial Analysis Intelligence Index

Artificial Analysis Intelligence Index: 오픈 웨이트와 독점 모델

Artificial Analysis Intelligence Index

Open Weights

Intelligence Index와 작업당 비용

Cost per Intelligence Index Task

Artificial Analysis Intelligence Index

Openness Index

Artificial Analysis Openness Index: 점수

비용

Intelligence Index 작업당 비용

Cost per Intelligence Index Task

Artificial Analysis Intelligence Index 실행 비용

Cost to Run Artificial Analysis Intelligence Index

가격: 캐시 적중, 입력 및 출력

Cache Hit

성능

Intelligence Index 작업당 시간

Time per Intelligence Index Task

Time Period

출력 속도

End-to-End Output Speed

첫 답변 토큰까지 걸린 시간

Time to First Answer Token

컨텍스트 창

컨텍스트 창

Context Window for RAG

Context Window

모델 크기(오픈 웨이트 모델만 해당)

모델 크기: 총 매개변수와 활성 매개변수

Total Parameters

Active Parameters at Inference Time

상세 정보

Meta의 다른 릴리스

자주 묻는 질문

Llama 3 Instruct 8B의 출시일은 언제인가요?

Llama 3 Instruct 8B을 개발한 곳은 어디인가요?

Llama 3 Instruct 8B의 지연 시간은 얼마인가요?

Llama 3 Instruct 8B의 가격은 얼마인가요?

Llama 3 Instruct 8B API 가격은 얼마인가요?

Llama 3 Instruct 8B 모델은 추론 모델인가요?

Llama 3 Instruct 8B 모델은 어떤 입력 모달리티를 지원하나요?

Llama 3 Instruct 8B 모델은 어떤 출력 모달리티를 지원하나요?

Llama 3 Instruct 8B 모델은 이미지를 처리할 수 있나요?

Llama 3 Instruct 8B 모델은 멀티모달 모델인가요?

Llama 3 Instruct 8B의 컨텍스트 창은 얼마인가요?

Llama 3 Instruct 8B 모델은 오픈 소스인가요?

Llama 3 Instruct 8B의 파라미터 수는 얼마인가요?

Llama 3 Instruct 8B의 라이선스는 무엇인가요?

Llama 3 Instruct 8B의 학습 데이터 기준일은 언제인가요?

Llama 3 Instruct 8B 모델은 API로 제공되나요?

Llama 3 Instruct 8B 모델은 어디에서 사용할 수 있나요?