dsh-token-hud

dsh-token-hud

DSH Web 全局实时 Token HUD：一个可拖拽、可折叠的悬浮窗，实时显示整个 DSH（所有会话）的模型输出速度、累计输出 token 与运行状态。

● Token 实时              ← 拖头部移动；– 折叠成小胶囊；□ 展开
  31.4 tok/s              ← 全 DSH 所有活跃会话速度之和
  输出 12.3K tok · 运行中 2
  ● sess-a  deepseek-v4-pro   28.1    ← 每个活跃会话一行
  ● sess-b  (重试等待)
  ─────────────────────
  模型用量（重启清零）
  deepseek-v4-pro  ↑12.3K  ⚡58.2
  glm-5.3          ↑4.5K   ⚡31.0

状态点：🟢 绿=出字中（脉动）· 🟡 黄=等模型 · 🟠 橙=重试等待（脉动）· 🔵 蓝=工具调用 · ⚪ 灰=空闲/离线。 模型聚合：↑ 为该模型进程级累计输出，⚡ 为滚动窗口 tps 的历史峰值；两者均为 host 纯内存，重启自然清零，无需额外配置。

为什么需要它

DSH 内置的统计行只在提供方上报 usage 且步骤结束后才显示 tok/s。免费网关模型经常不报 usage，或者中途挂起——这时你无从判断"模型是在慢慢生成，还是已经死了"。本插件从流式 chunk 直接估算（中文 ≈1 tok/字，英文 ≈4 字符/tok），不依赖提供方上报，出字即跳动；provider 上报 usage 时自动校正为精确值。配合 retryPolicy: always（@deepseek-ai/dsh-llm-retry）使用，重试期间橙点闪烁，成功出字转绿，一眼可见。

安装

dsh plugin --profile web add dsh-token-hud

重启 dsh web 后，页面右下角出现悬浮窗。位置与折叠状态自动记忆（localStorage）。

本地开发安装：

dsh plugin --profile web add link:<无空格路径>/dsh-token-hud

Windows 下路径含空格会被 dsh 的参数解析拆坏；可用 junction 提供无空格入口： New-Item -ItemType Junction -Path C:\Users\Public\dsh-token-hud -Target <真实目录>

配置（cordis.patch.yml，可选）

- insert:
    - id: token-hud
      name: dsh-token-hud
      inject: [webServer]
      config:
        apiPath: /token-hud/v1     # 只读 HTTP 端点前缀
        charsPerToken: 4           # 非 CJK 每 token 字符数
        cjkTokensPerChar: 1        # 每个 CJK 字符的 token 数
        windowMs: 5000             # 速度滚动窗口
        idleTtlMs: 180000          # 空闲会话多久的清理

工作原理

• Host 半边：实时速度走双通道自适应——新版宿主（0.1.5-rc.2+，format v2）逐 chunk 广播 agent/assistant-stream 帧（含子代理），旧宿主走 session/event 的 assistant/chunk；两通道互斥，见到帧后自动停用旧通道防双计。字符估算（中文 ≈1 tok/字，英文 ≈4 字符/tok）进滚动窗口聚合 tok/s；assistant/message 携带 usage 时校正估算误差；同时按模型归集累计输出 token 与滚动窗口 tps 历史峰值（request/header 时提前锁定模型名，assistant/message 兜底回填），均为 host 纯内存，重启自然清零；状态机跟踪 运行/出字/工具/重试/空闲。经 webServer 暴露只读端点 GET /token-hud/v1/stats。零持久化，不写会话日志。
• Client 半边：注册进 shell.overlay（官方全局悬浮层），每秒轮询渲染；页面隐藏自动暂停；API 失联 5 次显示灰色"离线"胶囊；stats.models 逐行渲染 ↑累计输出 与 ⚡峰值速度。

已知限制

• 速度为估算值（~10% 级误差），usage 上报后逐步校正；缓存读写 token 不参与速度。
• Host 重启后累计值清零（无持久化）。
• 悬浮窗显示的是全 DSH 聚合，当前打开哪个会话不影响显示内容。

测试

node test.mjs          # host 逻辑（估算/校正/状态机/HTTP）
node test.client.mjs   # 客户端 jsdom 冒烟（渲染/折叠/持久化/离线降级）

License

MIT