评测集是专为评估Agent输出质量而构建的结构化数据集合,由输入数据、预期输出两部分组成,实现Agent系统性评估能力的标准化与工程化。
构建高质量评测集,建议遵循以下原则:
进入小艺开放平台,点击【小艺罗盘】-【评测】-【评测集】-【新建评测集】,填写基本信息后,点击【创建】。


基本信息说明:
配置 | 说明 |
|---|---|
评测集名称 | 自定义的评测集名称。 |
评测集描述 | 评测集描述。 |
配置列 | 默认包含input和reference_output,支持自定义增删。 |
input | 输入数据列配置,包含: 列名称:输入列名称。 数据类型:输入列数据类型。 是否必填:输入列必填性,开关开启表示必填。 列描述:输入列描述,将作为输入投递给评测对象,协助理解此项输入数据。 |
reference_output | 预期输出列配置,包含: 列名称:输入列名称。 数据类型:输入列数据类型。 是否必填:输入列必填性,开关开启表示必填。 列描述:预期理想输出,可作为评估时的参考标准。 |
测试集新建完成后,即可添加数据,支持本地导入和手动添加两种方式。
本地导入
点击【添加数据】-【本地导入】,上传评测文件,导入支持追加数据和全量覆盖两种方式。


手动添加
点击【添加数据】-【手动添加】,手动输入每组测试数据,可点击【+添加列数据项】添加多组数据,最多添加200条,完成后保存即可。

