目录

大模型节点

大模型节点是平台提供的基础节点之一，开发者可以在该节点使用大语言模型处理任务。

节点说明

大模型节点可以调用大型语言模型，根据输入参数和提示词生成内容，通常用于执行文本生成任务，例如文案制作、文本总结、文章扩写等。

大模型节点依赖大语言模型的语言理解和生成能力，可以处理复杂的自然语言处理任务，开发者可以根据效果选择不同的模型，并配置提示词来定义模型的人设和回复风格。

配置大模型节点

[h2]模型

选择要使用的模型。此节点的输出内容质量很大程度上受模型能力的影响，建议根据实际业务效果选择模型。

模型设置说明：

支持对模型超参：TopK、TopP、Temperature进行调整，实现回复效果的定制化；仅部分模型支持此配置（不一一列举，具体以实际为准）。

超参说明：

[h2]技能

支持为大模型节点配置插件、工作流技能，扩展模型能力的边界。配置的插件支持云插件参数设置、端插件参数配置，支持插件模拟集。当选择技能为端插件时，可以添加不同版本的插件，在端侧运行时，会调用与端侧匹配版本的插件进行返回。

大模型节点运行时，会根据用户提示词自动调用插件或工作流，综合各类信息输入后输出回复。

配置技能后，大模型节点的能力更接近一个独立运行的Agent，可以自动进行意图识别，并判断调用技能的时机和方式，大幅度提高此节点的文本处理能力和文本生成效果，简化工作流的节点编排。

例如：用户的需求是生成某地的旅游攻略，可以先通过插件节点规划出行路线，再由模型节点根据路线信息等，更详细地回复用户；现在你可以直接在技能中添加规划路线的插件，大模型会自动调用插件，并将用户提示词中的描述和引用的变量传给插件，返回查询结果。

[h2]输入

模型的输入可以选取前面节点的输入和输出的参数，也可以手动输入具体的值。

模型根据输入的参数，以及提示词，生成回复。

[h2]会话上下文

开关控制是否将会话上下文信息发送到模型，支持选择两种方式：

[h2]提示词

输入需要添加到提示词中的动态内容。提示词中支持引用输入参数，实现动态调整的效果。添加输入参数时需要设置参数名和变量值，变量值支持设置为固定值或引用上游节点的输出参数。

[h2]输出

可以指定大模型节点输出的内容格式；输出格式支持设置为：

文本：纯文本格式，参数值为模型回复的文本内容。大模型节点添加了技能时，输出格式固定为文本输出。

Markdown：Markdown格式，参数值为模型回复的Markdown文本内容。

JSON：JSON格式，指定JSON时可自定义模型输出格式，层级嵌套最大支持三层。

单节点调试

大模型组件支持单节点调试，单节点调试时不要求连线完整，调试入参支持直接输入或引用参数，调试完成后展示此次调试的试运行结果。

如下图所示，点击调试按钮即可拉起执行：

执行结束后，正常返回此次调试的结果。