BoB 是如何构建的
一次朴素的架构巡览:外壳、模型舰队、验证脊柱,以及底层的知识基座。
大多数 AI 工具把模型当作产品,把围绕模型的代码当作胶水。BoB 反其道而行。模型是可替换的部件,就像一颗 CPU。真正让 BoB 可靠、高产、并且属于你的,是模型外围的那层外壳(harness)。下面是对这层外壳的一次快速巡览。
四个服务
BoB 由四个协作的部件构成:
- core 是总指挥:它负责调度工作、把任务分派到一支模型舰队、验证结果,并对一切保留一份持久的记录。
- gateway 是入口:一个带有登录、对话、项目与审批功能的 Web 与 API 层。
- pipeline 是规划层的一个轻量封装。
- app 是桌面客户端,也是日常主力工具,包含聊天、路由视图和团队构建器。
所有实质性的工作都发生在 core 内部,作为一张编译好的图(graph),请求会在其中流转。
模型舰队
BoB 不依赖于单一模型。工作以**角色(roles)**来表达,而非以厂商来表达:
- 一个顶点(apex),负责规划并拆解任务,
- 若干工人(workers),负责执行实际劳动,
- 若干评审(critics),负责对抗式地检查工作成果。
每个角色都通过一个路由层解析为一个具体的模型,因此同一个任务既可以作为单个廉价工人运行,也可以扇出(fan-out)为数十个工人,还可以作为一个反复商议的评议会运行——这一切靠配置而非代码来切换。其中刻意设立的规则是跨家族去相关(cross-family decorrelation):评审始终来自与它所审计的工人不同的模型家族,这样就没有哪个模型会给自己那一类的错误盖橡皮图章。
验证脊柱
正是这一部分,把廉价模型变成了可信赖的模型。在一个结果被允许成立之前,BoB 会对它进行检查:
- 一道后置条件检查(post-condition check),让一个去相关的评审判断所声称的结果是否真的成立,
- 一道主张蕴含闸门(claim-entailment gate),会针对任何定量主张重新打开被引用的来源,并追问:这个来源真的支持这个数字吗,
- 默认失败终止(default-fail termination),意味着每一条完成标准最初都处于未验证状态,只有当每一条都被验证、或被诚实地标记为未知时,工作才会交付。
“完成”是 BoB 挣来的,而不是它假定的。
三条通道
同一根脊柱驱动着三类工作:
- **构建通道(build lane)**依据契约编写代码,并在信任它之前先在一个封锁的沙箱里运行它,
- **研究通道(research lane)**用它确实重新读过的来源来回答问题,
- **计算机操作通道(computer-use lane)**驱动真实的软件,并检查屏幕是否按它意图的方式发生了变化。
记忆与基座
BoB 构建在一个鲜活的本地知识库之上。知识只编译一次并保持更新,因此 BoB 会随着时间对你的工作越来越敏锐,而不是每次会话都从零开始。在底层,一份只追加的账本(append-only ledger)是系统的事实来源:BoB 通过切分这份账本来重建上下文,而不是去信任模型上下文窗口里恰好残留的任何东西。
主权,源自设计
因为逻辑里没有点名任何模型,只有带回退链(fallback chains)的能力类别(capability classes),所以没有任何单一厂商是承重的。封禁一个模型、丢失一把密钥、或是眼看着价格飙升,能力类别都会重新解析到下一个提供方,一直向下退到你想要的本地推理。这正是能够挺过出口禁令的那种性质。外壳归你所有。而智能是你租来的——从本周最便宜、最可用的那一家租来。
若想读到完整的论述,请阅读技术白皮书。