给 ds2api 适配用的 DeepSeek Harness(DSH)插件。当模型把 EPSE 工具调用框架(开标签 + 闭合标签成对出现)写进文本回复里、而不是发起原生工具调用时,agent 循环本会因「本轮没调用工具」而直接停止。本插件把这种回复当作一次失败的模型请求,让循环在原地重试。此外,你可以在设置里配置自定义触发词(分号分隔),回复中出现任意一个也会触发同样的打回与重生成。
把坏回复判定为「请求失败」。这条原生路径由两半组成:
llm/stream:包裹提供方流,只观察模型的文本增量;一旦出现 EPSE 框架,就把末尾成功的finish换成携带EPSE_TOOL_CALL_FRAME的{ kind: 'error' }finish。因为这次尝试以失败结束,循环不会为它追加assistant/message—— 坏回复从未进入模型可见表面,所以事后无需删除任何东西。agent/request-error:认领这个专属失败码,写下持久的llm/retry/llm/retry-started记录,返回{ kind: 'retry' }。循环在同一 turn、同一 step 内基于未变的派生历史重新请求 —— 原始用户请求不会被重放,因此前端不会出现第二个用户气泡。
llm/retry会让会话 UI 对该 step 的 assistant 节点执行resetForRetry(清空 blocks 并置为 hidden),所以坏回复从对话中消失,重生成的回复渲染在它原来的位置。- 该 step 会多出一行「已重试模型请求」的 retry 提示行,附带失败原因。这是 DSH 原生的重试呈现,也是这次重生成留下的唯一痕迹。
从 GitHub 仓库安装(需 dsh 命令行):
dsh plugin --profile web add github:ouqiting/dsh-2apiDSH 0.1.7-rc.1 ~ 0.1.7-rc.2 的用户请钉 tag 0.7.0 版本安装:
dsh plugin --profile web add github:ouqiting/dsh-2api#v0.7.0或从本地副本安装:
dsh plugin --profile web add ./<path-to>/dsh-2api装完重启dsh后即生效。
可选:若某个部署想为这两个参数钉一个组合层 base(例如收窄到特定 provider,且不希望依赖用户设置),在 profile 的 cordis.patch.yml 里覆盖该行的 config:
- id: epse-regeneration-guard
config:
maxRegenerationsPerTurn: 2
targetProviders: [ 'ds2api' ]用户在 UI 里保存的值仍然覆盖这个 base。
| 字段 | 类型 | 默认 | 说明 |
|---|---|---|---|
targetProviders |
string[] |
[] |
限定命中的 provider / model 路由。留空 = 对所有 agent 生效。 |
maxRegenerationsPerTurn |
number |
2 |
每个 step 最多强制重生成次数,防死循环。 |
customTriggerWords |
string |
'' |
分号分隔的自定义触发词。回复中出现任意一个即判定命中,走与 EPSE 框架相同的失败 + 重生成路径。 |
插件自带一个设置卡片,显示在 设置 → 插件 → 插件配置 页(与「终端」「Agent 循环」「网页搜索」并列)。卡片提供三个输入框,保存后写入 ~/.dsh/settings.yaml 并在下次请求立即生效(无需重启):
cordis.patch.yml 里的 config 只是组合层 base;用户在 UI 里保存的值会覆盖它,留空并保存则恢复继承 base / 默认值。
文本中同时存在以下两者即判定命中(经归一化:全角形式如 <、EPSE 经 NFKC 归一到 ASCII,再 lowercase 处理大小写):
- 开标签:前缀
<|EPSE/<|epse/<EPSE,后跟任意本地名、甚至本地名为空; - 闭合标签:前缀
</|EPSE/</|epse/</EPSE,后跟任意本地名、甚至本地名为空。
此外,若配置了 customTriggerWords(分号分隔的短语),模型回复文本中(归一化后)出现任意一个触发词也判定命中,与 EPSE 框架走相同的失败 + 重生成路径。
仅判定模型生成的文本 chunk(text-delta 与 text 型 block-end);不处理写入文件、工具结果、工具参数、reasoning、日志事件。
只有普通的循环内会话请求会被守护,以下一律原样放行:
purpose非空的辅助调用(compaction、会话标题);- 手搭的一次性调用 —— 判定见下文《如何识别循环请求》;
- 找不到打开中 step 的请求(没有可重试的位置);
targetProviders未覆盖的路由;reason.kind不是stop的 finish ——tool-calls说明模型确实发起了原生调用(格式正确,不是本插件的事),而已失败、已中止、被 max-tokens 截断的尝试各自保留自己的结局与恢复归属。
防死循环:按 (session, turn, step) 计数,每步最多强制失败 maxRegenerationsPerTurn 次(默认 2)。预算耗尽后坏回复正常落地,而不是让该轮永远失败。
- 坏回复的输出 token 已经产生并计费,无法追回;但它不进入输入历史,所以重生成的请求与产生它的那次大小相同。
- 派生历史未发生任何表层替换,因此 KV cache 前缀完全可复用 —— 这优于旧方案(一次表面替换会使从首个被遮蔽消息起的复用失效)。
node test.mjs用真实 Session(表层与不变量规则原样生效)加最小假 Cordis context 驱动两个 listener,覆盖:坏回复转为被认领的请求失败并写下持久重试记录、干净回复与外部失败码原样放行、每步预算封顶、targetProviders 收窄范围、自定义触发词命中/未命中、以及辅助调用 / 未冻结 / 手搭消息列表 / 无 session / 无打开 step 的请求原样放行。
- 默认全局生效:
targetProviders留空意味着它作用于进程内所有 agent,包括运行 harness 自身的会话。 - 检测基于前缀:任何文本只要(归一化后)同时含 EPSE 开/闭合标签,就会被当作坏的工具调用框架,即使只是提到这些标签的普通叙述。但需要同时命中开、闭标签,已尽量避免误伤。
- 判定在流式过程中进行,早先的 chunk 已经推给了前端;用户可能短暂看到坏回复的前缀,随后被 retry 重置。
- 若同时挂载了
@deepseek-ai/dsh-llm-retry且某路由配了alwaysmode,该插件可能先认领这次失败并按自己的策略重试。结果依然是原地重生成、无重复指令,只是退避与计数归它所有。
MIT