← 知识库
架构 文字稿

BoB 是如何构建的

一次朴素的架构巡览:外壳、模型舰队、验证脊柱,以及底层的知识基座。

大多数 AI 工具把模型当作产品,把围绕模型的代码当作胶水。BoB 反其道而行。模型是可替换的部件,就像一颗 CPU。真正让 BoB 可靠、高产、并且属于你的,是模型外围的那层外壳(harness)。下面是对这层外壳的一次快速巡览。

四个服务

BoB 由四个协作的部件构成:

所有实质性的工作都发生在 core 内部,作为一张编译好的图(graph),请求会在其中流转。

模型舰队

BoB 不依赖于单一模型。工作以**角色(roles)**来表达,而非以厂商来表达:

每个角色都通过一个路由层解析为一个具体的模型,因此同一个任务既可以作为单个廉价工人运行,也可以扇出(fan-out)为数十个工人,还可以作为一个反复商议的评议会运行——这一切靠配置而非代码来切换。其中刻意设立的规则是跨家族去相关(cross-family decorrelation):评审始终来自与它所审计的工人不同的模型家族,这样就没有哪个模型会给自己那一类的错误盖橡皮图章。

验证脊柱

正是这一部分,把廉价模型变成了可信赖的模型。在一个结果被允许成立之前,BoB 会对它进行检查:

“完成”是 BoB 挣来的,而不是它假定的。

三条通道

同一根脊柱驱动着三类工作:

记忆与基座

BoB 构建在一个鲜活的本地知识库之上。知识只编译一次并保持更新,因此 BoB 会随着时间对你的工作越来越敏锐,而不是每次会话都从零开始。在底层,一份只追加的账本(append-only ledger)是系统的事实来源:BoB 通过切分这份账本来重建上下文,而不是去信任模型上下文窗口里恰好残留的任何东西。

主权,源自设计

因为逻辑里没有点名任何模型,只有带回退链(fallback chains)的能力类别(capability classes),所以没有任何单一厂商是承重的。封禁一个模型、丢失一把密钥、或是眼看着价格飙升,能力类别都会重新解析到下一个提供方,一直向下退到你想要的本地推理。这正是能够挺过出口禁令的那种性质。外壳归你所有。而智能是你租来的——从本周最便宜、最可用的那一家租来。

若想读到完整的论述,请阅读技术白皮书