このモデルは非推奨です。性能測定は継続していますが、頻度を下げ、6時間ごとではなく18時間ごとに測定しています。
NVIDIAは新しいリリースであるNemotron 3 Super 120B A12Bを公開しています。こちらの利用をご検討ください。
Llama 3.1 Nemotron Instruct 70Bの知能、性能、料金の分析
Llama 3.1 Nemotron Instruct 70Bはテキスト入力に対応し、テキストを出力します。コンテキストウィンドウは128kトークンで、知識は2023年12月までです。
| 推論 | いいえ このページでは、このモデルの非推論版を表示しています。 推論版も存在する可能性があります。 |
|---|---|
| 入力モダリティ | 対応:テキスト |
| 出力モダリティ | 対応:テキスト |
| 知識のカットオフ | 2023/12/01 |
| コンテキストウィンドウ | 128k Arial 12ポイントのA4用紙約192ページ分 |
| 総パラメーター数 | 70B |
| ライセンス | LLAMA 3.1 COMMUNITY LICENSE AGREEMENT |
| モデルウェイト | Hugging Face |
各指標は同じクラスのモデルと比較します。
- 非推論モデル → 他の非推論モデルとのみ比較
- 推論モデル → 推論モデルと非推論モデルの両方と比較
- オープンウェイトモデル → 同じ規模クラスの他のオープンウェイトモデルとのみ比較:
- 極小:パラメーター数≤4B
- 小:パラメーター数4B~40B
- 中:パラメーター数40B~150B
- 大:パラメーター数>150B
- 独自モデル → 入力/出力のブレンド料金を3:1として、同じ料金帯の独自モデルとオープンウェイトモデルを比較:
- 100万トークンあたり<$0.15
- 100万トークンあたり$0.15~$1
- 100万トークンあたり>$1
知能
Artificial Analysis Intelligence Index
Artificial Analysis Intelligence Index:オープンウェイトとプロプライエタリ
Intelligence Index とタスクあたりのコスト
Evaluations
Agentic knowledge work, Elo
Knowledge
1 - hallucination rate
Agentic SaaS workflows
Agentic scientific research workflows in a terminal
Agentic software engineering in open-source repositories
Reasoning & knowledge
Professional document reasoning, All-pass
Agentic coding & terminal use
Physics reasoning
Quantitative analysis on spreadsheets & documents
Legal agentic work, Hallucination-Gated All-Pass Rate
Agentic business operations
Agentic real-world work tasks, Elo
Agentic interactive 3D experiences, Elo
Product and brand videos designed in code, Elo
Kubernetes incident root-cause analysis
Medical long context reasoning
Visual reasoning
Rich, varied, well-crafted language
Well-structured, scannable, answer-first
Truthful, acknowledges uncertainty, non-sycophantic
Use of filler and generic language
Openness Index
Artificial Analysis Openness Index:スコア
費用
Intelligence Index タスクあたりのコスト
Artificial Analysis Intelligence Index の実行コスト
料金:キャッシュヒット・入力・出力
コンテキストウィンドウ
コンテキストウィンドウ
モデル規模(オープンウェイトモデルのみ)
モデルサイズ:総パラメータ数とアクティブパラメータ数
よくある質問
Llama 3.1 Nemotron Instruct 70Bに関するよくある質問
Llama 3.1 Nemotron Instruct 70Bは2024年10月15日にリリースされました。
Llama 3.1 Nemotron Instruct 70BはNVIDIAが開発しました。
いいえ。Llama 3.1 Nemotron Instruct 70Bは推論モデルではありません。思考の連鎖による長い推論を行わず、直接回答します。
Llama 3.1 Nemotron Instruct 70Bはテキスト入力に対応しています。
Llama 3.1 Nemotron Instruct 70Bはテキスト出力に対応しています。
いいえ。Llama 3.1 Nemotron Instruct 70Bは画像入力に対応していません。処理できるのはテキストのみです。
いいえ。Llama 3.1 Nemotron Instruct 70Bはマルチモーダルではなく、テキスト入力のみに対応しています。
Llama 3.1 Nemotron Instruct 70Bのコンテキストウィンドウは128kトークンです。これは、モデルが1回のリクエストで処理できるテキストと会話履歴の量を決定します。
はい。Llama 3.1 Nemotron Instruct 70Bはオープンウェイトモデルです。モデルウェイトが一般公開されており、ダウンロードしてセルフホストできます。
Llama 3.1 Nemotron Instruct 70Bのパラメーター数は70Bです。
Llama 3.1 Nemotron Instruct 70BはLLAMA 3.1 COMMUNITY LICENSE AGREEMENTライセンスで公開されています。商用利用は制限付きで認められています。 ライセンスを表示
Llama 3.1 Nemotron Instruct 70Bの知識のカットオフは2023年12月です。モデルの学習データには、この日付までの情報が含まれます。
Llama 3.1 Nemotron Instruct 70Bはセルフホスト可能なオープンウェイトモデルです。 プロバイダーを表示
Llama 3.1 Nemotron Instruct 70Bは、ダウンロードしてセルフホストできるオープンウェイトモデルです。 プロバイダーを比較