目录

配置提示词模板

功能介绍

提示词模板采用结构化的固定格式,将“角色、任务、输入和输出要求”等要素清晰组织起来,使开发者只需填充关键信息,即可稳定、高效地引导模型生成预期结果。开发者可以通过在指定应用资源目录放置prompt_template.json配置文件,导入自定义提示词模板。

RAG每组提示词模板包含:系统提示词(system)和用户提示词(user),格式为:

"提示词模板组名称": {
    "system": "XXX",
    "user": "XXX"
}

RAG支持三个自定义提示词模板组,并提供占位符,用于替换对应内容。同一个占位符可以在模板中使用多次,每个占位符均会进行内容替换。

提示词模板组名称 提示词模板组描述 占位符 占位符替换内容
coreferencePrompt 指代消除提示词模板组 {history} 指代消除阶段用于指导指代消除的历史问答记录信息
coreferencePrompt 指代消除提示词模板组 {input} 指代消除阶段用户的输入
extractionPrompt 关键词提取提示词模板组 {question} 关键词处理阶段用户的输入
answerPrompt 总结提示词模板组 {history} 总结阶段用户的历史问答记录信息
answerPrompt 总结提示词模板组 {time} 总结阶段的时间信息
answerPrompt 总结提示词模板组 {query} 总结阶段用户的输入
answerPrompt 总结提示词模板组 {retrieval} 总结阶段用于支持总结的检索结果信息

约束限制

  1. 配置文件中的超参名称必须和给定的名称严格一致才能生效,即模板组的key必须为:coreferencePrompt、extractionPrompt、answerPrompt之一。每个提示词模板组必须同时包含系统提示词(system)和用户提示词(user)两项。

  2. 提示词模板的数据类型必须为字符串格式,否则可能导致模板载入失败。

  3. 提示词模板的长度建议符合实际使用的大模型配置。

开发步骤

在应用资源目录的rawfile/arkdata/rag下创建prompt_template.json文件,若工程中无目标目录则递归创建。

提示词模板文件prompt_template.json示例如下,实际文件内容请根据业务需要进行配置。

{
    "coreferencePrompt": {
        "system": "This is a coreference system prompt.",
        "user": " This is a coreference user prompt.\nPrompt history: {history}; Prompt input: {input}."
    },
    "extractionPrompt": {
        "system": "This is extraction system prompt.",
        "user": " This is extraction user prompt.\nPrompt question: {question}. "
    },
    "answerPrompt": {
        "system": "This is answer system prompt.",
        "user": " This is answer user prompt.\nPrompt history: {history};Prompt time: {time};Prompt query: {query};Prompt retrieval: {retrieval}."
    }
}