提示词模板采用结构化的固定格式,将“角色、任务、输入和输出要求”等要素清晰组织起来,使开发者只需填充关键信息,即可稳定、高效地引导模型生成预期结果。开发者可以通过在指定应用资源目录放置prompt_template.json配置文件,导入自定义提示词模板。
RAG每组提示词模板包含:系统提示词(system)和用户提示词(user),格式为:
"提示词模板组名称": {
"system": "XXX",
"user": "XXX"
} RAG支持三个自定义提示词模板组,并提供占位符,用于替换对应内容。同一个占位符可以在模板中使用多次,每个占位符均会进行内容替换。
| 提示词模板组名称 | 提示词模板组描述 | 占位符 | 占位符替换内容 |
|---|---|---|---|
| coreferencePrompt | 指代消除提示词模板组 | {history} | 指代消除阶段用于指导指代消除的历史问答记录信息 |
| coreferencePrompt | 指代消除提示词模板组 | {input} | 指代消除阶段用户的输入 |
| extractionPrompt | 关键词提取提示词模板组 | {question} | 关键词处理阶段用户的输入 |
| answerPrompt | 总结提示词模板组 | {history} | 总结阶段用户的历史问答记录信息 |
| answerPrompt | 总结提示词模板组 | {time} | 总结阶段的时间信息 |
| answerPrompt | 总结提示词模板组 | {query} | 总结阶段用户的输入 |
| answerPrompt | 总结提示词模板组 | {retrieval} | 总结阶段用于支持总结的检索结果信息 |
配置文件中的超参名称必须和给定的名称严格一致才能生效,即模板组的key必须为:coreferencePrompt、extractionPrompt、answerPrompt之一。每个提示词模板组必须同时包含系统提示词(system)和用户提示词(user)两项。
提示词模板的数据类型必须为字符串格式,否则可能导致模板载入失败。
提示词模板的长度建议符合实际使用的大模型配置。
在应用资源目录的rawfile/arkdata/rag下创建prompt_template.json文件,若工程中无目标目录则递归创建。
提示词模板文件prompt_template.json示例如下,实际文件内容请根据业务需要进行配置。
{
"coreferencePrompt": {
"system": "This is a coreference system prompt.",
"user": " This is a coreference user prompt.\nPrompt history: {history}; Prompt input: {input}."
},
"extractionPrompt": {
"system": "This is extraction system prompt.",
"user": " This is extraction user prompt.\nPrompt question: {question}. "
},
"answerPrompt": {
"system": "This is answer system prompt.",
"user": " This is answer user prompt.\nPrompt history: {history};Prompt time: {time};Prompt query: {query};Prompt retrieval: {retrieval}."
}
}