全部课程 / L5 架构层
L5-03 统一编排层(类 ORCA 设计)
学时 8h(4 次) 前置 L5-02、L4-05 性质 设计课(本学位的终点)
关于「ORCA」
你提到想建立一个统筹不同 harness 的架构,类似 ORCA 的方式。经确认,这不是指某个具体开源项目或论文,而是你构想中的一个「统一编排层」思路。
所以本模块不引用任何现成方案,而是从零推导。这样设计出来的东西,才是你自己的。
如果你后来找到了具体的 ORCA 实现,把这个模块的结论拿去做对照——对照比参考更有价值。
这门课要解决的问题
你现在的处境:
- 你有 DSH,可能还会用别的 harness
- 每个 harness 有自己的工具集、上下文管理、编排方式
- 你希望在它们之上有一层统一的东西
但要先问一个残酷的问题:这一层真的需要吗?
统一层会带来:抽象泄漏、性能损耗、双重维护、生态绑定。如果收益不够大,它就是负债。
所以这门课的第一个任务是论证必要性,而不是画架构图。
课时拆解
第 1 次(2h)必要性论证
先回答四个问题:
- 你现在实际有多少个 harness? 如果只有一个,统一层是过度设计。
- 跨 harness 的真实需求是什么? 是「能力互补」还是「避免锁定」?
- 统一层的抽象边界在哪? 哪些能统一,哪些必然泄漏?
- 不统一,用适配器/协议行不行? 往往更轻。
结论可能是:不需要统一层,只需要一个协议 + 几个适配器。 这个结论同样是合格产出。
动手:写一页「必要性论证」,给出明确结论(需要/不需要/部分需要)。
第 2 次(2.5h)分层设计
假设必要性成立,设计分层。关键原则:每层只依赖下一层的接口,不依赖实现。
┌─────────────────────────────────────┐
│ L5 交互层 统一会话、任务提交、结果呈现 │
├─────────────────────────────────────┤
│ L4 编排层 任务图、调度、失败语义、预算 │
├─────────────────────────────────────┤
│ L3 能力层 工具/技能注册、能力发现、路由 │
├─────────────────────────────────────┤
│ L2 适配层 harness 适配器(每 harness 一个)│
├─────────────────────────────────────┤
│ L1 接入层 模型 API、鉴权、限流、计费 │
└─────────────────────────────────────┘
对每层定义:
- 接口(上游看到什么)
- 契约(保证什么、不保证什么)
- 失败模式(这层挂了,上游看到什么)
关键设计决策:
- 能力描述用什么格式(否则无法跨 harness 路由)
- 上下文归谁管(编排层管还是 adapter 管)——这是最容易泄漏的地方
- 成本与延迟如何跨层传递
动手:画出五层接口定义,每层 ≥3 个接口。
第 3 次(2h)关键难点
难点一:上下文所有权
- 如果编排层管,它要知道每个 harness 的上下文特性
- 如果 adapter 管,编排层无法做跨 harness 的上下文优化
- 折中:编排层管「逻辑上下文」,adapter 管「物理映射」
难点二:能力抽象
- 不同 harness 的工具语义不同(有的有沙箱,有的没有)
- 抽象太粗:丢失能力;太细:无法跨 harness
- 做法:能力分级(必需/增强/可选),降级时显式标记
难点三:失败归因
- 一个任务失败,是模型问题、工具问题、还是 adapter 问题?
- 需要统一的 trace 语义
难点四:性能与成本
- 多一层 = 多一跳延迟
- 跨 harness 调用 = 双倍 token 成本
- 必须有明确的「什么情况不走统一层」的短路机制
动手:为四个难点各写一段「设计决策 + 理由 + 代价」。
第 4 次(1.5h)演进路径
不要一次做完。设计一个三阶段演进:
- 阶段一(最小可用):只统一「模型接入 + 基础编排」,不碰能力抽象
- 阶段二(能力层):加工具注册与路由
- 阶段三(多 harness):加适配层
每阶段定义:能做什么、不能做什么、什么信号表明该进下一阶段。
动手:三阶段路线图,含验收信号。
核心概念清单
- 统一层的四种成本
- 什么情况下不该做统一层
- 五层接口的分界原则
- 上下文所有权的折中方案
- 能力分级与降级标记
- 演进阶段的验收信号
材料
- L5-01 的通用组件图
- L5-02 的编排模型
- L4-05 的打分卡(用来评估你的设计)
- 你自己的实际需求(唯一真实的需求来源)
验收作业
- 必要性论证:一页纸,明确结论 + 四条依据。
- 五层接口定义:每层接口、契约、失败模式。
- 四难点决策:每个难点的决策 + 理由 + 代价。
- 演进路线图:三阶段 + 验收信号。
- 自评打分:用 L4-05 的打分卡给自己的设计打分,重点看「可维护性」和「抽象泄漏」两项。
- 反方评审:写 500 字的自我批评——这个设计最可能死在哪。
第 1 题和第 6 题是本课的灵魂。一个不敢论证必要性、不敢自我批评的架构,不值得做。
常见卡点
| 卡点 | 真相 |
|---|---|
| 「想一次设计完美」 | 完美设计一定过度设计。三阶段演进比完整蓝图有用 |
| 「抽象怎么做都不对」 | 抽象必然泄漏。目标是「泄漏可预期、可处理」,不是「不泄漏」 |
| 「不知道需求」 | 需求来自你真实的痛点。先记录一周里「要是有 X 就好了」的时刻 |
| 「做出来没人用」 | 先自己用。自己不用就别做 |