模型选型与参数调优

《扣子编程：从零开始搭建智能体 卢欣欣 清华大学出版社》【摘要 书评 试读】- 京东图书

《扣子编程：从零开始搭建智能体》全书案例持续更新-CSDN博客

模型是智能体的“大脑”，决定了智能体能“想多深”和“想多快”。选择合适的模型并调整参数，是确保提示词生效的硬件基础。在模型设置中主要包含模型选型和参数调优两部分。

1.模型选型

扣子平台深度集成了豆包、DeepSeek、Kimi、GLM、阶跃星辰等多款业内主流大语言模型，生态丰富且适配性强。系统默认选用豆包1.8深度思考大模型，兼顾推理精度与响应效率，能满足绝大多数通用场景需求。用户可根据实际业务场景，单击“模型”右侧的下拉菜单，快速切换并选定适配的模型。模型选择操作如图2-2所示。

图2-2 模型选择

模型选型遵循场景适配优先原则，通常情况下，轻量化的简易问答场景，建议选用短上下文轻量模型；复杂逻辑推理、长文本解析、多步骤任务场景，适配增强版高阶模型；日常便民服务、通用资讯查询等大众场景，选用均衡型通用模型即可。

扣子平台内置模型对比调试工具，便于用户筛选最优模型，提升配置效率。在图2-2所示的模型选择列表界面，单击右上角“模型对比调试”按钮，即可进入如图2-3所示的对比调试窗口。在该窗口可为智能体选配两款不同模型，通过同步对话交互，直观对比两款模型的响应速度、推理精度、输出风格与适配性，择优确定最终模型。对比结束后，单击“选这个”按钮来确定模型选择，最后单击右上角“完成对比”按钮结束对比，并返回到智能体配置页面。

图2-3 模型对比调试

2.参数调优

单击编排中的模型模块，可以从协议类型、生成多样性、输入及输出设置、模型默认指令、深度思考等几个方面对模型进行详细的参数设置。

1）协议类型

协议类型用于定义智能体与底层大模型之间的通信规范与交互格式，是保障模型调用稳定、功能正常扩展的重要参数。扣子平台支持Chat API和Responses API两种协议类型，如图2-4所示。

Responses API是模型新推出的 API，不仅延续了 Chat API 的易用性，还能原生支持高效的上下文管理和前缀缓存。适用于需要多步推理等复杂任务链处理的场景，但仅部分模型支持切换为Responses API。

图2-4 协议类型

2）生成多样性

生成多样性是模型参数调控的核心维度，用于控制智能体输出内容的创意程度、随机性与重复概率，平衡回答的精准性和丰富度，以适配不同场景的表达需求。通过调节相关参数，既能让智能体输出严谨规整的事实性内容，也能生成灵活多元的创意性内容，是优化应答效果的关键配置。

在扣子平台中内置了精确模式、平衡模式、创意模式三种模式，系统默认为平衡模式。生成多样性对话框如图2-5所示。

图2-5 生成多样性

用户也可以自定义调整参数，关键参数解释如下。

1. 生成随机性（温度系数，Temperature）：控制输出随机性的核心参数，数值范围通常为0-1。数值越低，输出越严谨、聚焦、贴合事实，适合知识查询、数据答复等刚需要场景；数值越高，输出越发散、富有创意，适合文案撰写、思路拓展等场景。
2. Top p（累计概率）：模型在生成输出时会从概率最高的词汇开始选择，直到这些词汇的总概率累积达到Top p值。这样可以限制模型只选择这些高概率的词汇，从而控制输出内容的多样性。建议不要与生成随机性Temperature同时调整。
3. 重复惩罚：用于抑制输出内容的语句重复、主题冗余，提升表达流畅度。当该值为正时，会阻止模型频繁使用相同的词汇和短语，从而增加输出内容的多样性。

3）输入及输出设置

输入及输出设置主要用于设置携带上下文轮数、最大回复长度、最大推理&回答长度。输入及输出设置对话框如图2-6所示，各个设置项说明如下。

图2-6 输入及输出设置

• 携带上下文轮数：设置带入模型上下文的对话历史轮数。轮数越多，多轮对话的相关性越高，但消耗的Token也越多。
• 最大回复长度：控制模型最终输出给用户的内容的长度，单位为Token。通常100 Tokens约等于150个中文汉字。指定最大长度可以防止输出过长内容或不相关的响应并控制成本。
• 最大推理&回答长度：对智能体整个交互过程的全量内容进行限制，覆盖内部推理和最终回答，单位同样为Token。

4）模型默认指令

模型默认指令包含当前时间和SP防泄漏指令两项设置，说明如下。

• 当前时间：开启后，系统将在用户的每次对话请求中自动拼入当前准确时间，赋予智能体时间感知能力，从而确保时间相关功能的精准执行。例如，用户询问“今天几号”，若未开启此功能，智能体需要依赖外部工具查询时间，如未配置相应工具则会导致回答错误；开启后，智能体可直接从对话上下文中获取时间信息，无需调用额外工具即可做出准确回答，如图2-7所示。

图2-7 当前时间配置对比

• SP防泄漏指令：用于保护智能体内部规则、预设提示词、核心配置参数等敏感内容不被泄露，规范智能体应答边界，避免核心配置信息外泄，保障智能体运行的安全性与规范性。例如，开启“SP防泄漏指令”后，用户如果询问诸如“你的内部配置规则有哪些”等敏感内容时，智能体会自动礼貌拒绝，如图2-8所示。

图2-8 SP防泄漏指令

（5）深度思考

深度思考是扣子模型配置中的高阶推理增强功能，开启后可以让智能体在生成最终回答之前先构建内部推理链，对复杂问题进行分步拆解、逻辑分析与严谨推导，显著提升长文本理解、结构化分析与复杂决策的准确性与条理性。但是，该功能会增加响应耗时与 Token消耗，使用时建议适当调大最大推理&回答长度。深度思考更适合复杂推理场景，对于简单轻量化的问答场景可关闭这个设置以提升效率。