适用于高智商模型的简化系统提示词模板 #135
HydroGest
started this conversation in
Show and tell
Replies: 0 comments
Sign up for free
to join this conversation on GitHub.
Already have an account?
Sign in to comment
Uh oh!
There was an error while loading. Please reload this page.
Uh oh!
There was an error while loading. Please reload this page.
-
背景
当前版本系统提示词 功能非常完善,使用 ReAct 提示词架构并给予了充分的解释说明,这非常有效,使得所有模型都能在一个相同的水平上使用工具。然而,对于一些高智商的模型,往往不需要额外提示即可充分利用工具,此时可以简化提示词以节省成本并提高响应速度。
使用说明
将以下提示词模板替换 YesImBot v3 配置的
agentBehavior.prompt.systemTemplate(系统提示词模板)处。效果
提示词模板从原来的 213 行缩短至 76 行,在我个人的使用场景中,在新的对话片段中,输入从 10k+ 缩短至 5k,大大缩短了首字延迟(~5s → ~2s)。经测试,智能体在长流程任务处理(如深度搜索)场景下可以正常完成收集消息、校验、重收集、获取反馈的循环(doubao-seed-1-6-25015),但其他场景尚不明确。
Beta Was this translation helpful? Give feedback.
All reactions