目录

评测集

评测集介绍

评测集是专为评估Agent输出质量而构建的结构化数据集合,由输入数据、预期输出两部分组成,实现Agent系统性评估能力的标准化与工程化。

构建高质量评测集,建议遵循以下原则:

构建评测集

[h2]1、新建评测集

进入小艺开放平台,点击【小艺罗盘】-【评测】-【评测集】-【新建评测集】,填写基本信息后,点击【创建】。

基本信息说明:

配置

说明

评测集名称

自定义的评测集名称。

评测集描述

评测集描述。

配置列

默认包含input和reference_output,支持自定义增删。

input

输入数据列配置,包含:

列名称:输入列名称。

数据类型:输入列数据类型。

是否必填:输入列必填性,开关开启表示必填。

列描述:输入列描述,将作为输入投递给评测对象,协助理解此项输入数据。

reference_output

预期输出列配置,包含:

列名称:输入列名称。

数据类型:输入列数据类型。

是否必填:输入列必填性,开关开启表示必填。

列描述:预期理想输出,可作为评估时的参考标准。

[h2]2、添加测试数据

测试集新建完成后,即可添加数据,支持本地导入和手动添加两种方式。

本地导入

点击【添加数据】-【本地导入】,上传评测文件,导入支持追加数据和全量覆盖两种方式。

手动添加

点击【添加数据】-【手动添加】,手动输入每组测试数据,可点击【+添加列数据项】添加多组数据,最多添加200条,完成后保存即可。

[h2]3、保存测试集

测试数据预置完成后,点击【保存】即可。

[h2]4、编辑测试数据

测试数据支持新增、修改、删除:

[h2]5、测试集版本记录

每次保存测试集后都会新建一个测试集版本,可在【版本记录】中查看操作历史。