此模型已弃用。我们仅继续对默认的 10k 输入 token 工作负载进行性能测试。其他工作负载的结果为历史数据,不再更新。
AI21 Labs 已推出更新版本 Jamba 1.6 Mini。我们建议考虑使用该版本。
Jamba 1.5 Mini 智能、性能与价格分析
Jamba 1.5 Mini 的智能水平在同类模型中处于末段,价格也有些昂贵;比较对象为其他规模相近的开放权重非推理模型。 该模型支持文本输入,可输出文本,上下文窗口为 256k 个 token,知识截止至 2024年3月。
Jamba 1.5 Mini 在 Artificial Analysis Intelligence Index 上的得分为 5,在同类模型中处于末段(中位数:7)。
Jamba 1.5 Mini 每 100 万输入 token 的价格为 $0.20(有些昂贵,中位数:$0.00),每 100 万输出 token 的价格为 $0.40(有些昂贵,中位数:$0.00)。
| 推理 | 否 此页面展示该模型的非推理版本。 可能还存在推理版本。 |
|---|---|
| 输入模态 | 支持:文本 |
| 输出模态 | 支持:文本 |
| 知识截止日期 | 2024年3月5日 |
| 上下文窗口 | 256k 约 384 页 A4 纸(12 号 Arial 字体) |
| 总参数量 | 52B |
| 活跃参数量 | 12B 推理期间每个 token 启用的参数数量 |
| 许可证 | Jamba Open Model License Agreement |
| 模型权重 | Hugging Face |
指标与同类别模型进行比较:
- 非推理模型 → 仅与其他非推理模型比较
- 推理模型 → 同时与推理和非推理模型比较
- 开放权重模型 → 仅与规模类别相同的其他开放权重模型比较:
- 微型:≤4B 个参数
- 小型:4B–40B 个参数
- 中型:40B–150B 个参数
- 大型:>150B 个参数
- 专有模型 → 与价格区间相同的专有模型和开放权重模型比较,采用输入/输出价格 3:1 的混合比例:
- 每 100 万 token <$0.15
- 每 100 万 token $0.15–$1
- 每 100 万 token >$1
智能Updated
Artificial Analysis Intelligence Index
Artificial Analysis Intelligence Index:开放权重与专有模型
Intelligence Evaluations
Agentic knowledge work, (Elo-500)/2000
Agentic real-world work tasks, (Elo-500)/2000
Agentic SaaS workflows
Agentic coding & terminal use
Coding
Reasoning & knowledge
Professional document reasoning, All-pass
Physics reasoning
Knowledge
1 - hallucination rate
Long context reasoning
Legal agentic work, criterion pass rate
Agentic business operations
Agentic scientific research workflows in a terminal
Quantitative analysis on spreadsheets & documents
Kubernetes incident root-cause analysis
Visual reasoning
Medical long context reasoning
开放性指数
Artificial Analysis 开放性指数:得分
Intelligence Index 比较
Intelligence Index 与每项任务的成本
成本
每项 Intelligence Index 任务的成本
运行 Artificial Analysis Intelligence Index 的成本
价格:缓存命中、输入和输出
上下文窗口
上下文窗口
模型规模(仅开放权重模型)
模型规模:总参数量与活跃参数量
常见问题
关于 Jamba 1.5 Mini 的常见问题
Jamba 1.5 Mini 发布于 2024年8月22日。
Jamba 1.5 Mini 由 AI21 Labs 开发。
Jamba 1.5 Mini 在 Artificial Analysis Intelligence Index 上的估算得分为 5,在其他规模相近的开放权重非推理模型中处于末段(中位数:7)。
Jamba 1.5 Mini 每 100 万输入 token 的价格为 $0.20(非常有竞争力,中位数:$0.46),每 100 万输出 token 的价格为 $0.40(非常有竞争力,中位数:$0.81);基于提供该模型的各服务商中位数。
Jamba 1.5 Mini 每 100 万输入 token 的价格为 $0.20,每 100 万输出 token 的价格为 $0.40(基于提供该模型的各服务商中位数)。按缓存命中/输入/输出为 7:2:1 的比例计算,混合价格为每 100 万 token $0.22。价格可能因服务商而异。 比较服务商价格
否,Jamba 1.5 Mini 不是推理模型。它不进行扩展的思维链推理,而是直接作答。
Jamba 1.5 Mini 支持文本输入。
Jamba 1.5 Mini 支持文本输出。
否,Jamba 1.5 Mini 不支持图像输入,只能处理文本。
否,Jamba 1.5 Mini 不是多模态模型,仅支持文本输入。
Jamba 1.5 Mini 的上下文窗口为 260k 个 token。这决定了模型在单次请求中可以处理多少文本和对话历史。
是,Jamba 1.5 Mini 是开放权重模型,其模型权重已公开,可供下载并自行托管。
Jamba 1.5 Mini 有 52B 参数(启用 12B)。
Jamba 1.5 Mini 是混合专家(MoE)模型,总参数量为 52B,但推理期间仅启用 12B。
Jamba 1.5 Mini 基于 Jamba Open Model License Agreement 许可证发布,允许商业使用但有限制。 查看许可证
Jamba 1.5 Mini 在 Artificial Analysis Intelligence Index 上的得分为 5。这项综合基准测试评估模型的推理、知识、数学和编程能力。
Jamba 1.5 Mini 的知识截止日期为 2024年3月,模型训练数据包含截至该日期的信息。
是,可通过 1 家服务商的 API 使用 Jamba 1.5 Mini。 比较 API 服务商
可通过 1 家 API 服务商使用 Jamba 1.5 Mini。 比较服务商