开放性指数方法论
概述
Artificial Analysis 开放性指数是一项综合指标,用于衡量 AI 模型的公开可用程度与文档透明程度。它涵盖模型权重的可用性,以及用于构建模型的底层数据和方法论的透明度。
每个模型均基于所有可获取的公开第一方信息进行评估。当模型派生自第三方基座模型时,可能受限于上游模型的许可证或有限的披露。对于增量或更新版本,仅考虑明确针对新版本的披露(包括允许模型开发商声明哪些组件与早期版本保持一致)。
详细的方法论规范可供下载 PDF。
指数构成
维度
组成部分
评分
1. 模型可用性
权重
访问
0封闭权重,无 API
1封闭权重,API 限制 token 可见性
2封闭权重,API 可用
3开放权重
许可证
0封闭权重或不可商用
1可商用,需署名
2可商用,无需署名
3可商用,无需署名,无实质性限制
2. 模型透明度
数据:预训练与后训练(得分为各项的平均值)
访问
0未披露或有限披露
1部分数据来源详情及分类已披露
2完整数据配比已披露,大量数据已共享¹
3全部数据已共享
许可证(最严格的)
0不可商用/无大量数据共享
1可商用,需署名
2可商用,无需署名
3可商用,无需署名,无实质性限制
方法论
披露
0未披露或有限披露
1模型架构已披露
2有限的通用技术披露
3完整技术细节已披露
许可证(最严格的)
0未披露或发布任何代码
1框架已披露,可公开商用
2端到端训练流程代码或指南已发布
3端到端训练流程代码或指南已发布,且允许商用
每个组成部分按 0–3 的定性量表评分,依据最匹配的开放性原型打分,并基于所有可获取的公开第一方信息对每个模型进行评估。
当模型派生自第三方基座模型时,可能受限于上游模型的许可证或有限的披露。对于增量/更新版本,我们仅考虑明确针对新版本的披露(包括允许模型开发商声明哪些组件与早期版本保持一致)。
得分计算
开放性指数最终得分的计算方式如下:
- 数据组成部分分别对预训练和后训练评分,然后取平均值得到数据综合得分(访问与许可证共计最多 6 分)。
- 所有组成部分的得分相加,原始满分为 18 分。
- 原始得分归一化至 0–100 分制: