4.1 KiB
Agent Note: 建议性 LLM 目录与 ACP 会话级模型选择
Status: implemented
English | 中文
目录决策仍然有效。ACP 会话级模型选择已由 ACP 作为仅面向自动化的协议取代。
问题
基于提供方路由的适配器允许每次请求选择 provider + model,但 LlmService 只暴露路由和流式调用。UI 无法发现已注册的提供方,也无法知道适配器愿意推荐哪些模型。因此,ACP 客户端收不到 model 会话配置项;即使请求接缝已经支持运行时切换,Zed、JetBrains 和 VS Code 集成仍没有模型列表。
模型发现不能变成请求校验。手写 DeepSeek 适配器会把任意模型 ID 原样转发给公开或私有端点,而 pi-ai 的有限安装目录则是其自身请求解析的权威依据。将共享目录视为白名单,会破坏提供方路由需要保留的私有端点能力。
ACP 选择还必须保留提供方维度。同一个模型 ID 可能存在于多个路由下;切换全局适配器或 agent 模板会让一个编辑器会话的选择泄漏到其他会话。Prompt 变量与请求路由必须同时变化;如果选择发生在异步 prompt 组装期间,不能让 {{model}} 表示一个模型、实际请求却到达另一个模型。
决策
提供方无关的建议性发现
LlmAdapter 增加 providerInfo(provider) 与异步 listModels(provider) 方法。其提供方无关结果分别为 LlmProviderInfo { id, name } 和 LlmModelInfo { provider, id, name, description? }。默认实现以路由名称作为提供方名称,并且不展示模型,从而保持现有适配器行为。
LlmService.listProviders() 按注册顺序返回分离后的元数据。LlmService.listModels(provider) 委托给路由所有者,校验非空 ID 和名称,并在提供方不匹配或模型 ID 重复时以 INVALID_CATALOG 失败,最后返回分离后的值。未知提供方仍以 NO_ADAPTER 失败。提供方元数据在 registerAdapter() 期间进行原子校验,错误展示记录不会留下部分注册。
目录成员关系仅提供建议。它驱动选择器与诊断,但不会改变 stream() 路由,也不会拒绝原本有效的请求。提供方所有权仍然具有排他性并绑定生命周期;模型 ID 仍是请求时传给适配器的输入。
dsh-llm-pi-ai 将已配置提供方的安装目录 getModels(provider) 映射为中立目录。其现有请求时目录查询仍是权威依据,未知模型仍以 UNKNOWN_MODEL 失败。dsh-llm-deepseek 接受可选的 models 配置作为展示条目,默认包含 deepseek-v4-flash 和 deepseek-v4-pro。显式列表会替换这些默认值,空列表则关闭发现。这些条目改善已知公开或私有模型的选择体验,而所有未列出的模型 ID 仍会原样透传。
ACP 传输边界
ACP 自动化传输层不是目录消费方。它通过部署配置为新创建的 agent 提供一个可选的提供方/模型目标,不展示模型选择器或配置选项接口。TUI、Web、SDK host 和其他面向人类的消费方可以通过各自的交互契约使用该建议性目录。
考虑过的替代方案
将目录设为强制白名单。 这与手写适配器的任意模型透传和私有部署冲突。请求的权威校验本就属于被选中的适配器。
结果
- 任意适配器都能暴露动态模型列表,无需把提供方库类型泄漏到核心接缝。
- 目录消费者必须把缺失理解为“未展示”,而不是“请求无效”。
- pi-ai 适配器会暴露其已安装的提供方目录;手写 DeepSeek 部署显式列出已知选项,同时保留对任意模型的支持。
- 面向人类的目录消费方拥有各自的选择交互。ACP 使用固定部署目标,不会为模型发现扩大协议范围。
- 目录读取可以是异步的,且每个调用方都会收到分离后的值。
测试
单元测试覆盖目录分离与错误元数据,以及 pi-ai 和 DeepSeek 目录投影。ACP 传输测试独立验证固定提供方/模型的转发行为。