jing-hy/picturereader

picturereader

v3.4.0 — 给纯文本模型（DeepSeek / text-only）的全能「看图 / 读文档 / 修图」能力。

融合 视觉孪生 adapter（把任意文本模型原位包装成「支持图片」→ DSH 原生缩略图 + 图片块自动分析）、三模式路由、本地像素级工具链（scan / OCR×4 引擎 / crop / palette / compare / batch）、文档转图片（pdf / word / excel / ppt）、本地修图工具 `image_edit`（Pillow/OpenCV 纯 CPU：缩放 / 旋转 / 滤镜 / 合成 / 水印 / 去背景 / 超分等）与可选外部 VLM 桥。一个插件全包。

v3.4.0 新增：原生识图能力感知。插件现在从模型能力元数据（inputModalities，与 DSH 内核的图片门控同源）判断当前会话的模型是否自己就能看图：命中时在系统提示词里明确说明「不要用 image_scan / image_sample 这类"伪多模态"替代路径，但 `image_ocr` 仍应正常使用」，并让粘贴/读取的图片直通该模型、不再降级成文本引导；纯文本模型与元数据缺失（未知）时行为与 v3.3.3 完全一致。判定走未包装的原始 adapter，因此不会被本插件自己的视觉孪生误判成原生识图。

v3.3.0 新增：macOS 原生 Vision OCR 引擎（engine="macos"，scripts/setup-macos.mjs 一键编译，PR #4 合入）；OCR 引擎选项按平台条件显示（macos 仅 macOS、windows 仅 Windows，paddle/rapid 跨平台始终显示）；修复 PaddleOCR 新环境首次调用三个缺陷（stdout 污染 / w/h→width/height / 缓存路径写死，issue #2）；设置卡 UI 重做（settings-panel 设计语言）；调试日志门控（llm/stream 桥不再刷屏）；peerDependencies 兼容 DSH 0.1.1-rc.2（issue #3）。

定位

DeepSeek 等纯文本模型没有视觉编码器，无法直接看图片；DSH 原生缩略图也需要模型被声明为「支持图片」才会渲染。

⭐ 已支持外部视觉 API（OpenAI 兼容端点 / LM Studio / 云端 VLM），由 LLM 自行按需调用：配置好端点后，模型会在智能/严谨模式下自主判断"这张图值不值得外呼视觉模型"，需要时用 vision_analyze 调外部 API 做语义理解，简单内容则本地像素/OCR 搞定——外部 API 是即插即用的增强能力，不是必须依赖。

picturereader 现在解决三件事：

1. 把「看图/读文档」翻译成纯文本模型能理解的结构化证据（像素级 hue/结构/材质分析 + OCR 实读 + 可选 VLM 语义描述），并沉淀为读图方法论 skill。
2. 通过「视觉孪生 adapter」让纯文本模型在 DSH 里获得原生缩略图体验：勾选模型即生成「(视觉)」变体，粘贴图片显示原生缩略图、图片块进会话、并被自动分析成文本路径 + 本地证据再交给模型。即使上游先降级为 attachment sha256 文本，图片桥也会仅从本机附件对象库恢复经过文件头校验的图片并注入本地工具路径；模型拿到的永远是纯文本，不会触发 UNSUPPORTED_CONTENT。
3. 本地直接修图 / 批量处理图片：image_edit 提供缩放、旋转、滤镜、合成、水印、去背景、拼接、透视校正等纯 CPU 动作，图片不出本机。

版本兼容性：本版本专门兼容 dsh 0.1.3-alpha.1 / dsheac 5.4.0（并实测兼容 dsh 0.2.0-rc.2），同时向后兼容 dsh 0.1.1-rc.2 与 dsheac 5.1.0，以及 DeepSeek Harness EAC 4.2.0 与 @deepseek-ai/dsh-client-ui-workspace rc.7。peerDependencies 采用 ^0.1.0-rc.6 || ^0.1.1-rc.2 || ^0.2.0-rc.2 || ^0.1.3-alpha.1 联合区间，覆盖 0.1.x 三条发布线并延伸到 0.2.x。

⚠️ 升级到 dsh 0.1.3 必须使用 v3.3.2 之后的版本：内核 0.1.3 起 @deepseek-ai/dsh-settings 不再导出 settingsNamespace() 品牌函数（命名空间校验收进 register() 内部）。ESM 静态导入不存在的符号会让模块整体加载失败，进而拖垮整棵插件树、触发 EAC 的 guard 安全模式（表现为「一对话就报错」+ 插件大范围消失）。v3.3.3 已适配。

🚀 后续将作为 DeepSeek Harness EAC 的内置视觉插件：本插件计划替换内置的 dsh-tool-vision，随 DSH EAC 桌面版直接捆绑发布，开箱即用。作为独立包发布的目的，是让非 EAC / 旧版用户也能通过 dsh plugin add picturereader 或 Git/npm 安装获得同等「看图 / 读文档」能力。

功能总览

① 视觉孪生 adapter（原生缩略图 + 自动分析）

• Proxy 原位包装：对被勾选的模型所属 provider，用 Proxy 把其 adapter 包装成「孪生」并原位替换（registerTwinAdapters，卸载经 ctx.effect 还原），不重复注册。
• `listModels` / `resolveModel`：对被勾选模型声明 inputModalities: ['text','image']、名称加「(视觉)」后缀 → DSH 认为它支持图片 → 原生缩略图渲染、图片块进会话、粘贴准入全部解锁。
• `stream` 拦截：捕获请求里的 image block → 导出到 ~/.dsh/picturereader-vision/images/ → 替换成文本路径 + 本地工具链引导 → 转发给原始 adapter。pi-ai 收到的是纯文本，不会报 `UNSUPPORTED_CONTENT`；opencode-go 等走 @earendil-works/pi-ai 的 provider 同样经此孪生获得原生缩略图能力。
• 隐私模式下分析只走本地工具，绝不外发。

② 智能路由（隐私 / 智能 / 严谨 三模式）

这是 picturereader 的"大脑"：统一在 routing.js + runtime.js 收敛「什么时候走外部 VLM、什么时候只用本地、要不要交叉验证」，供各工具 / 图片桥 / 视觉孪生 stream / vision_analyze 共享，保证整条图链都遵守同一套路由策略。

路由决策原理

每次看图，模型面对的问题其实是同一个：「这张图，值得花什么成本、用哪条路线读懂它？」picturereader 把答案预置成三种策略，模型据此自主决策，同时 host 侧做硬约束兜底：

图片进来 → 孪生 stream 拦截 / 工具被调用
        → 读入当前「模式」→ 得到该模式的路由策略
        → 模型 / 工具按策略选路线：
            本地像素分析（image_scan / image_sample）
            本地文字识别（image_ocr：windows / macos / paddle / rapid）
            外部语义理解（vision_analyze include_vlm=true → VLM）
            交叉验证（多路证据对照）

核心决策函数 visionAnalyzeDefaults(mode) 定义各模式"默认的证据组合"：

模式 · 默认 include_scan · 默认 include_ocr · 默认 include_vlm · allow_low_info 隐私（privacy） · ✅ · ✅ · ❌（硬禁） · ❌ 智能（smart） · ✅ · ❌（按需） · ✅（值得才调） · ❌ 严谨（strict） · ✅ · ✅ · ✅ · ❌

三种模式的路线策略

🕶 隐私模式（Privacy）——零外呼硬门禁

• 绝不调用任何外部视觉端点，即使你在设置卡配了 API。
• 约束是 host 侧强制：runtime.js 使 isVlmConfigured() 恒为 false，vision_analyze 强制 include_vlm=false，视觉孪生 stream 的降级文本也明确"只用本地工具"。
• 模型只能用本地工具：image_scan / image_ocr / image_sample / image_crop / image_palette / image_compare / image_edit。图片字节不出本机。
• 适用：敏感图片（身份证、合同、私人截图）、离线、零外部流量审计场景。

⚡ 智能模式（Smart）——省轮数、省时间（默认）

• 目标：先把成本压到最低，复杂内容才值得外呼。
• 决策流程：先 image_scan 快速看整体 → 自行判断：

1. 图片以文字为主 → image_ocr 读文字即可，不必调 VLM；
2. 普通图表 / 界面 / 简单内容 → image_scan + image_sample 自己看就能说清，不必调 VLM；
3. 仅当内容复杂、需语义理解（照片、抽象画面）且配置了端点时，才 vision_analyze(include_vlm=true) 走外部 VLM。

• 视觉孪生死活都会先把图片导出成本地路径，模型可随时本地深挖，不会被困在"必须外呼"的死路。

🎯 严谨模式（Strict）——交叉验证、细看细节

• 目标：可靠性优先，不贪省。
• 决策：先 image_scan 了解整体 → 必要时 image_ocr 读文字、image_sample 细看细节 → 对关键判断做交叉验证（把像素证据、OCR 证据、（可选）VLM 语义描述相互对照，不轻信单一来源）。
• 允许使用外部 VLM（需配置），但强度更高、可追溯。
• 适用：需要高准确率与可复现结论的场景（审图、校对、数据分析）。

隐私硬门禁贯穿所有入口：无论走哪个工具/桥，runtime.js 的模式快照都会在调用点做校验，routePolicyText(mode) 还会把当前策略注入给模型的提示里，双保险。

与视觉孪生 adapter 的协同

三模式不仅约束 vision_analyze，也约束视觉孪生 registerTwinAdapters 的 stream 拦截：图片块总是被无条件替换成文本（路径 + 本地证据引导，这是模型能读懂的前提），但是否/何时进一步外呼 VLM 由当前模式决定——隐私模式恒不透传图片、不发起外部调用；智能/严谨模式在需要且已配置时才走外部语义理解。因此"原生缩略图"与"隐私零外呼"可以同时成立，互不冲突。

③ 本地工具链（纯本地读取）

工具 · 作用 image_scan · 全局/区域扫描：颜色网格 + regions 色块 + shade diversity + texture + structure + hue families；支持 focus/region/px_per_cell 定向放大 image_ocr · 文字识别四引擎：windows（内置）/ macos（macOS 原生 Vision，免装第三方，首次一条命令编译）/ paddle（选装，发光/弯曲/游戏字更强）/ rapid（选装，轻量快速）；paddle/rapid 缺失自动降级不崩溃 image_sample · N×N 精确像素取样，判断材质/纹理 image_crop · 按 region 裁剪并导出 PNG image_palette · 颜色提取：主色列表（hex + 命名单 + 占比）+ 色相家族 image_compare · 两图/两区域像素对比：mean_diff / diff_ratio / diff_box / verdict，可选差异可视化预览 image_batch · 批量规模/上下文验证：批量扫描 + 类型判定 + 自动全量 OCR + 是否值得深入建议 vision_analyze · 统一入口：低信息拦截 + 可选像素扫描 / OCR / VLM，按模式路由，返回多路证据

OCR 引擎平台说明：windows 引擎仅在 Windows 平台可用、macos 引擎仅在 macOS 平台可用（设置卡按平台条件显示对应选项）；paddle / rapid 为跨平台选装引擎，任何平台都可使用。未配置时默认跟随当前平台原生引擎（Windows→windows、macOS→macos、其他→paddle），跨平台迁移的旧配置会自动回落到平台默认值。

④ 文档转图片 document_to_image

把 pdf / docx / doc / xlsx / xls / pptx / ppt 逐页转成 PNG（LibreOffice headless → PDF → PyMuPDF），供模型逐页 OCR / 扫描分析。纯本地、零网络；支持 dpi / max_pages / out_dir / 批量 file_paths。

⑤ 外部 VLM 桥（已支持，由 LLM 自行调用）

已支持外部视觉 API，且调用时机完全交给 LLM 自主判断：配置好 OpenAI 兼容端点后（LM Studio / llama-server / 云端网关 / GLM-4V-Flash 免费模型），模型在智能 / 严谨模式下会自行判断"这张图是否值得外呼视觉模型"——简单内容用本地像素/OCR 就够，复杂内容（照片、抽象画面、需语义理解）才通过 vision_analyze(include_vlm=true) 调 sendVisionRequest 以 data URI 送图给外部 VLM，取回语义描述。baseURL 自动补 `/v1/chat/completions`（无需手写完整路径）。

• LLM 自行调用 = 你不用手动切模型/手动发图，模型按模式策略在该外呼时自己调外部 API。
• 隐私模式仍为硬门禁：即使配置了外部 API 也绝不调用、绝不外发图片字节。

⑥ 设置卡片「图片阅读」

Web 设置页注册「图片阅读」卡片（settings-panel 设计语言：卡片分组 + 胶囊按钮 + 折叠高级项）：使用模式、外部视觉 API、视觉桥模型多选、OCR 引擎（平台条件显示）、高级设置（详见「设置卡字段」）。改动写 ~/.dsh/settings.yaml 即时生效。

⑦ 粘贴即用 + 缩略图

开启视觉孪生并选择「(视觉)」模型变体后：粘贴/拖入图片 → 原生缩略图 → 图片块进会话 → 被孪生 stream 拦截 → 导出文本路径 + 本地证据 → 纯文本模型拿到结果，可继续用 image_scan / image_ocr 深挖。

⑨ 原生识图能力感知（v3.4.0）

给"自己就能看图"的模型让路：picturereader 的本地工具链是为没有视觉编码器的模型准备的替代路径，而原生多模态模型用它们只会更慢更不准。插件因此从底层元数据判断能力，并据此调整提示词与图片链路。

• 判定与内核同源：读 llm 适配器的 inputModalities（'text' | 'image'），三态语义与内核一致 —— 显式含 image = 原生识图；显式不含 = 纯文本（negative capability）；字段缺失 = 未知（不注入、不改变行为，零回归）。
• 提示词注入：以 ctx.systemPrompt.section() 注册动态 section（name picturereader:image-capability，order 3000）。原生识图时注入：不建议用 image_scan / image_sample 这些把图片降采样成像素网格的替代手段（信息损失大、易把结论建立在残缺数据上），`image_ocr` 仍应正常使用（原生视觉对小字／发光字／艺术字会幻觉，文字以 OCR 实读为准），image-reading skill 的 5 步扫描流程也不必遵循。
• 图片直通：判定为原生识图（或命中 multimodal_models 白名单）时，llm/stream 图片桥不再降级图片块，粘贴的图直达模型；read_image 返回的图片块同样不再被替换成文本说明。
• 不被孪生污染：能力判定用 realAdapterOf() 取未包装的原始 adapter —— 本插件的视觉孪生会把被勾选模型的 inputModalities 改写成 ['text','image']，若直接读 llm.listModels()，会把「伪识图（孪生）」误判成「真·原生识图」。
• 当前模型跟踪：system-prompt/assemble（内核每轮写入的 variables.provider/model）→ agent 级缓存（WeakMap，多会话/子代理互不干扰）→ llm/stream 兜底；模型切换后最迟下一轮生效。
• 可回退：高级开关 native_vision_auto（默认 true）。关闭后提示词注入与图片直通全部回到 v3.3.3 的行为（只认 multimodal_models 白名单）。

⑧ 本地修图工具 image_edit

一个工具、多个 action 分发，后端为隔离的 image_venv Python（Pillow + OpenCV-headless，可选 rembg / rawpy / realesrgan CLI），纯 CPU、无需 GPU / 大模型。所有图片字节不出本机。

依赖安装：node scripts/setup-image-venv.mjs（核心）/ node scripts/setup-image-venv.mjs --full（再加 rembg + rawpy）。详见下方专门章节。

image_edit 本地修图工具

本地批量 / 单张修图。调用示例：

用 image_edit 把 <路径> 缩放到宽 800：action=resize, file_path=<路径>, width=800, height=600
给 <路径> 加左下角文字水印：action=watermark, file_path=<路径>, type=text, text="©2026", position=bottom_left, font_size=40
把 <背景> 和 <前景> 合成（贴图）：action=composite, file_path=<背景>, file_paths=[<前景>], position=bottom_right, alpha=0.8
把 <IMG1>、<IMG2> 水平拼接：action=stitch, file_path=<IMG1>, file_paths=[<IMG2>], direction=horizontal

支持的 action（P0 / P1 / P2）

分级 · action · 说明 · 依赖 P0 · resize · 缩放：width,height + mode（stretch/fit/fill） · Pillow P0 · rotate · 旋转：angle（度）+ expand + fill · Pillow P0 · flip · 翻转：axis（horizontal/vertical/both） · Pillow P0 · convert · 格式互转：png/jpg/webp/bmp/tiff/gif（由 out 扩展名决定） · Pillow P0 · adjust · 亮度/对比度/饱和度：brightness,contrast,saturation（1.0=不变） · Pillow P0 · blur · 模糊：type（gaussian/box/motion）+ radius · Pillow P0 · sharpen · 锐化：radius,percent,threshold（UnsharpMask） · Pillow P0 · composite · 合成/叠加（贴图）：主图叠加 file_paths[0] 于 position 与 alpha · Pillow P0 · watermark · 水印：type=text（text,color,font_size）或 type=image（file_paths[0]） · Pillow P0 · thumbnail · 缩略图：width,height（保持比例） · Pillow P1 · edges · 边缘检测/描边：low,high（Canny） · OpenCV P1 · equalize_hist · 直方图均衡化（增强对比度）：mode（auto/clahe） · OpenCV P1 · denoise · 降噪：strength（fastNlMeansDenoisingColored，纯 CPU） · OpenCV P1 · perspective · 透视校正（矫正歪斜文档/建筑照）：points（8 数）+width,height · OpenCV P1 · stitch · 多图拼接：direction（horizontal/vertical）+ file_paths · Pillow P1 · remove_background · 背景移除：U²-Net（--full 装 rembg，约 35MB，CPU 几十秒） · rembg P2 · exif_read · 读取 EXIF（Make/Model/曝光等） · Pillow P2 · exif_write · 写 EXIF：fields（标签名→值） · Pillow P2 · raw_convert · RAW 转图：rawpy（基于 libraw，--full 装） · rawpy P2 · upscale · 超分辨率放大 2–4x：realesrgan-ncnn-vulkan 独立 CLI（Vulkan，无需 PyTorch） · 外部 CLI P2 · colorspace · 色彩空间：target（rgb/hsv/lab/gray/cmyk） · OpenCV P2 · morphology · 形态学：op（erode/dilate/open/close/gradient）+size · OpenCV

依赖与降级策略

• P0 全部仅需 Pillow；P1 除 remove_background 外仅需 OpenCV-headless。
• remove_background 需要 rembg（--full）；raw_convert 需要 rawpy（--full）；upscale 需要外部 realesrgan-ncnn-vulkan CLI（环境变量 DSH_REALESRGAN_EXE）。
• 可选依赖缺失时，不是崩溃，而是返回清晰的中文提示（"请先运行 node scripts/setup-image-venv.mjs [--full]" / "请设置 DSH_REALESRGAN_EXE"）。
• image_venv Python 未搭建时，工具返回 node scripts/setup-image-venv.mjs 安装提示（与 document_to_image 的 doc_venv 一致）。
• 全部动作默认超时 120s；remove_background 300s；upscale / denoise 更长，避免后台阻塞。

与主流多模态插件的差异 / 优势

对比常见方案（dsh-tool-vision、dsh-image-paste、dsh-vision-bridge 等）：

1. 不绑定单一厂商：视觉孪生对任意 provider 生效（含 opencode-go / xiaomi / qiu 等 pi-ai 系），不是只适配某一家 API。
2. 全链路可离线：隐私模式零外呼；本地纯 JS 像素工具 + 4 引擎 OCR（含平台原生引擎），不依赖云端。
3. 工具链完整：裁剪 / 取色 / 对比 / 批量 / 文档转图 / 本地修图 image_edit，一个插件全覆盖。
4. 原生缩略图：真正 DSH 原生图片块（inputModalities 声明），非文本路径模拟。
5. 快：本地工具毫秒级；可控 VLM 调用（低信息拦截 + 智能模式"值得才调"）省轮数与耗时。
6. 只写不读 key、隐私硬门禁：API Key 以 role:'secret' 保存、只写不读不回显；隐私模式经 runtime.js 强制 isVlmConfigured()=false。

能力 · picturereader · dsh-tool-vision · dsh-image-paste · dsh-vision-bridge 原生缩略图（文本模型） · ✅ 视觉孪生 adapter · ❌ · ⚠️ 部分 · ❌ 任意 provider（含 pi-ai 系） · ✅ · 绑定厂商 · — · — 隐私模式硬门禁 · ✅ · — · — · ❌ 本地像素工具链（scan/ocr/crop/palette/compare） · ✅ 全内置 · ⚠️ 基础 · ❌ · ❌ 本地修图（缩放/滤镜/水印/去背景等） · ✅ image_edit · ❌ · ❌ · ❌ 文档转图片（pdf/word/excel/ppt） · ✅ · ❌ · ❌ · ❌ 批量/上下文验证 · ✅ · ❌ · ❌ · ❌ 外部 VLM 桥（可选，OpenAI 兼容） · ✅ · ✅ · ❌ · ✅ 全离线可用 · ✅ · ⚠️ · ✅ · ❌

快速上手

# 1. 安装插件
dsh plugin --profile web add picturereader        # npm 包；或从源码: dsh plugin --profile web add .
dsh plugin --profile headless add picturereader

# 2.（推荐）安装读图方法论 skill
copy skills\image-reading.md %USERPROFILE%\.dsh\skills\          # Windows
# cp skills/image-reading.md ~/.dsh/skills/                      # macOS / Linux

# 3.（可选）增强 OCR 引擎
node scripts/setup-ocr.mjs       # PaddleOCR（发光/弯曲/游戏字更强；跨平台选装）
node scripts/setup-rapid.mjs     # RapidOCR（轻量快速；跨平台选装）
node scripts/setup-macos.mjs     # macOS 原生 Vision OCR（仅 macOS，需 Xcode 命令行工具）

# 4.（可选）文档转图片依赖（需已装 LibreOffice）
node scripts/setup-doc-venv.mjs  # 建 doc_venv 装 PyMuPDF

# 5.（可选）本地修图 image_edit 依赖
node scripts/setup-image-venv.mjs          # 建 image_venv 装 Pillow + OpenCV-headless + piexif
node scripts/setup-image-venv.mjs --full   # 再加 rembg（背景移除）+ rawpy（RAW）

重启 DSH Desktop 后：模型工具列表出现全部工具（含 image_edit），设置页出现「图片阅读」卡片。

启用视觉孪生（原生缩略图）

1. 在设置页「图片阅读」勾选要作为视觉孪生的文本模型，保存后重启 DSH。
2. 模型选择器中选择对应模型的「(视觉)」变体（如 deepseek-v4-flash (视觉)）。
3. 粘贴 / 拖入图片 → 原生缩略图 → 图片块自动分析为文本证据。

使用示例

用 image_scan 看一下 <路径> 这张图，细看感兴趣的部分
（复杂场景可接着用 vision_analyze；如有文字先 image_ocr；一批图用 image_batch；
  文档用 document_to_image 逐页转成图片再看；
  要修改图片用 image_edit，如 action=resize / watermark / remove_background）

Code Mode（工具折叠）兼容说明

DSH 的 tools 呈现有三种 mode：native（默认，模型可直呼所有工具）、code（只允许模型直呼 run_code，其它工具折叠进 run_code 的生成 SDK 内调用）、both（两种都能用）。

• picturereader 所有工具与 mode 无关：native / both 下全部可直呼；code 下也完全可用，只是要经 run_code 程序内调用（await tools.image_scan(...) / await tools.image_edit(...) / await tools.vision_analyze(...)）。工具会被自动投影进 run_code 生成的 SDK，一个都不少。
• 若报错 Error: unknown tool "vision_analyze" ... only run_code is callable directly ...——这不是插件坏了，而是当前会话处于 code 模式、仍以直呼方式发起了调用。两种情况任选其一：

1. 把该部署的 tools.mode 设为 both（最省心：直呼 + run_code 都能用，不会降速）；
2. 保持 code 模式，改用 run_code 程序调用（见下方示例）。

• 推荐：日常使用直接保持 native 或 both；code 是平台级的"只留 run_code"硬化模式，对本地看图工具是净亏（更多轮数、更多 token），非必要不开。

在 code 模式下用 run_code 调用示例（Python）：

async def main():
    r = await tools.image_scan({"file_path": r"C:\path\to\img.png"})
    return r

await main()

三模式（使用模式）

在 Web 设置 →「图片阅读」卡片顶部选择，修改即时生效。