AI 学位·
全部课程 / L5 架构层

L5-03 统一编排层(类 ORCA 设计)

学时 8h(4 次) 前置 L5-02、L4-05 性质 设计课(本学位的终点)


关于「ORCA」

你提到想建立一个统筹不同 harness 的架构,类似 ORCA 的方式。经确认,这不是指某个具体开源项目或论文,而是你构想中的一个「统一编排层」思路。

所以本模块不引用任何现成方案,而是从零推导。这样设计出来的东西,才是你自己的。

如果你后来找到了具体的 ORCA 实现,把这个模块的结论拿去做对照——对照比参考更有价值。


这门课要解决的问题

你现在的处境:

  • 你有 DSH,可能还会用别的 harness
  • 每个 harness 有自己的工具集、上下文管理、编排方式
  • 你希望在它们之上有一层统一的东西

但要先问一个残酷的问题:这一层真的需要吗?

统一层会带来:抽象泄漏、性能损耗、双重维护、生态绑定。如果收益不够大,它就是负债。

所以这门课的第一个任务是论证必要性,而不是画架构图。


课时拆解

第 1 次(2h)必要性论证

先回答四个问题:

  1. 你现在实际有多少个 harness? 如果只有一个,统一层是过度设计。
  2. 跨 harness 的真实需求是什么? 是「能力互补」还是「避免锁定」?
  3. 统一层的抽象边界在哪? 哪些能统一,哪些必然泄漏?
  4. 不统一,用适配器/协议行不行? 往往更轻。

结论可能是:不需要统一层,只需要一个协议 + 几个适配器。 这个结论同样是合格产出。

动手:写一页「必要性论证」,给出明确结论(需要/不需要/部分需要)。

第 2 次(2.5h)分层设计

假设必要性成立,设计分层。关键原则:每层只依赖下一层的接口,不依赖实现。

┌─────────────────────────────────────┐
│ L5 交互层    统一会话、任务提交、结果呈现  │
├─────────────────────────────────────┤
│ L4 编排层    任务图、调度、失败语义、预算   │
├─────────────────────────────────────┤
│ L3 能力层    工具/技能注册、能力发现、路由  │
├─────────────────────────────────────┤
│ L2 适配层    harness 适配器(每 harness 一个)│
├─────────────────────────────────────┤
│ L1 接入层    模型 API、鉴权、限流、计费    │
└─────────────────────────────────────┘

对每层定义:

  • 接口(上游看到什么)
  • 契约(保证什么、不保证什么)
  • 失败模式(这层挂了,上游看到什么)

关键设计决策:

  • 能力描述用什么格式(否则无法跨 harness 路由)
  • 上下文归谁管(编排层管还是 adapter 管)——这是最容易泄漏的地方
  • 成本与延迟如何跨层传递

动手:画出五层接口定义,每层 ≥3 个接口。

第 3 次(2h)关键难点

难点一:上下文所有权

  • 如果编排层管,它要知道每个 harness 的上下文特性
  • 如果 adapter 管,编排层无法做跨 harness 的上下文优化
  • 折中:编排层管「逻辑上下文」,adapter 管「物理映射」

难点二:能力抽象

  • 不同 harness 的工具语义不同(有的有沙箱,有的没有)
  • 抽象太粗:丢失能力;太细:无法跨 harness
  • 做法:能力分级(必需/增强/可选),降级时显式标记

难点三:失败归因

  • 一个任务失败,是模型问题、工具问题、还是 adapter 问题?
  • 需要统一的 trace 语义

难点四:性能与成本

  • 多一层 = 多一跳延迟
  • 跨 harness 调用 = 双倍 token 成本
  • 必须有明确的「什么情况不走统一层」的短路机制

动手:为四个难点各写一段「设计决策 + 理由 + 代价」。

第 4 次(1.5h)演进路径

不要一次做完。设计一个三阶段演进:

  • 阶段一(最小可用):只统一「模型接入 + 基础编排」,不碰能力抽象
  • 阶段二(能力层):加工具注册与路由
  • 阶段三(多 harness):加适配层

每阶段定义:能做什么、不能做什么、什么信号表明该进下一阶段。

动手:三阶段路线图,含验收信号。


核心概念清单

  • 统一层的四种成本
  • 什么情况下不该做统一层
  • 五层接口的分界原则
  • 上下文所有权的折中方案
  • 能力分级与降级标记
  • 演进阶段的验收信号

材料

  • L5-01 的通用组件图
  • L5-02 的编排模型
  • L4-05 的打分卡(用来评估你的设计)
  • 你自己的实际需求(唯一真实的需求来源)

验收作业

  1. 必要性论证:一页纸,明确结论 + 四条依据。
  2. 五层接口定义:每层接口、契约、失败模式。
  3. 四难点决策:每个难点的决策 + 理由 + 代价。
  4. 演进路线图:三阶段 + 验收信号。
  5. 自评打分:用 L4-05 的打分卡给自己的设计打分,重点看「可维护性」和「抽象泄漏」两项。
  6. 反方评审:写 500 字的自我批评——这个设计最可能死在哪。

第 1 题和第 6 题是本课的灵魂。一个不敢论证必要性、不敢自我批评的架构,不值得做。


常见卡点

卡点 真相
「想一次设计完美」 完美设计一定过度设计。三阶段演进比完整蓝图有用
「抽象怎么做都不对」 抽象必然泄漏。目标是「泄漏可预期、可处理」,不是「不泄漏」
「不知道需求」 需求来自你真实的痛点。先记录一周里「要是有 X 就好了」的时刻
「做出来没人用」 先自己用。自己不用就别做