战略作为文档 — 第七章
机器自动翻译自意大利语 · 查看原文
第六章 — 战略作为文档,而非代码
我们来到一个洞察,在所有讲述从 2023 年以来构建 RAG 的人那里,都反复出现,那就是 “我希望从第一天起就了解这一点”。
传统的框架将搜索策略视为 Python 代码。对于技术目录,你想先按产品代码搜索,再按关键词,再按语义向量,最后才生成答案?你写一个函数。对于相册,你想完全跳过传统的语义搜索,而是依赖一个专门的图像重排序器?你写另一个函数。对于企业视频,你想将音频与视觉轨道分离,分别转录,将其视为不同的源,然后再组合到最终答案中?又是一个函数。每种类型的内容、每个领域、每位客户最终都会生成一个偏离其他分支的代码,直到修改一个策略需要一次软件发布、一次代码审查、一个测试周期和一个部署。从 “我有一个改进技术手册搜索的想法” 到 “这个想法已投入生产” 的时间是以周来衡量的。对于每一个想法。
这种替代性的洞察力虽然简单易懂,但其影响深远:搜索策略不是代码,而是一份文档。 一个 JSON —— 一种结构化文本格式,任何编辑人员经过半小时的培训就可以阅读 —— 它会说:“首先尝试这个,然后尝试那个,如果第一个失败就切换到第三个,这样重新排序,用这个模型回复。” 这份文档存在于数据库中,而不是代码仓库中。它通过界面进行修改,而不是通过拉取请求。它可以被版本化、复制和针对特定领域进行定制。为技术目录制定一项策略,为相册制定一项策略,为安装手册制定一项策略,为视频制定一项策略,为音频制定一项策略,为法律合同制定一项策略,为财务报表制定一项策略。所有这些策略都可以在同一个系统中共存。所有这些策略都可以实时修改。
那些使用这种方法的人——我们姑且称之为Meta-RAG——讲述了一种超越工程的速度变化。典型的客户请求,例如“添加一个搜索,用于查找包含 CMP40M 或 RH1M 等缩写的产品代码”,不再是为期两周的开发工单。它只是添加到 JSON 流程中的一个新步骤,在暂存环境中进行热测,并在下午推广到生产环境。问题“如果我们为照片使用不同的重新排序器,同时保持文本的当前排序器,会发生什么变化?”可以通过修改一行配置来回答。实验成本为零,回滚成本为零(只需恢复文档的先前版本),并且积累的知识——什么对某种类型的内容有效——变成了版本化的、可转移的资产,而不是编写该特定代码分支并今天休假的人的隐性知识。
这种做法还会产生一种有趣的社会效应,它体现在采用这种方法的组织中。当策略本身成为文档时,“开发者”和“精通用户”之间的界限会发生变化。数字图书管理员、企业档案管理员、领域专家——技术部门负责人、文档负责人、最了解客户真实需求的产品经理——可以阅读策略,理解其作用,提出修改建议,有时甚至可以直接编写修改。他们无需通过开发工单流程,无需向开发者解释开发者不应该知道的事情(因为这些不在开发者的职业范围内)。RAG不再是您消费的产品,而是您根据组织知识进行建模的工具。根据那些尝试过的人的经验,这会在项目指标数据发生变化之前就改变项目的士气。
这不是魔法,而且有其成本。需要一个引擎来高效、安全地执行这些将策略作为文档的方法。需要一种描述语言,它既能覆盖真实情况,又不会变得像另一个伪装的图灵完备系统一样复杂。还需要版本控制、测试和回滚工具。但所有这些都是构建引擎方的问题——一次完成,为所有用户服务。最终客户所看到的是:能够以思维的速度演进其搜索策略,而不是以软件发布周期的速度。对于身处其中的人来说,这是一场尚未在行业杂志上找到其名称的静默革命。
结束语 — 第七章,几个月后
在2026年初,将前几章的经验教训加总起来——那些丢失的表格、虚假的重排序器、继承来的幻觉、增长速度超过价值的云账单、承诺多多但僵化的框架——意大利有人开始构建一个不同的RAG服务器。它使用Python编写,旨在在可访问的硬件上运行,能够在需要时与云模型通信,并在隐私要求或成本不合理时与本地模型通信。该服务器将搜索策略视为可修改的文档,重排序器是GPU上的本地流程,表格不会丢失,因为它们被视为一等公民,照片不会从其他时代的尘封档案中继承对象,并且每次查询的成本——无论是金钱还是泄露给第三方的的数据——都是可知的并且可以精确控制到美分。
我们不会透露该项目名称。现在不是讨论这个的时候,我们也不想把调查变成广告。但是,如果之前的章节让你意识到你正在经历的情况——一个企业聊天机器人自信地回答错误的问题,一个RAG项目已经停滞了几个月,一笔云账单增长速度超过了它所产生的价值,或者你越来越怀疑你的机密文件正在被发送到你不知道的地方——那么值得知道还有另一条路,这条路有人在意大利已经走过,并且在2026年开始给出人们在2023年所期望的初步答案。
好消息是,企业人工智能终于走出了演示阶段。坏消息是,它在走出时带走了旅途中所有的伤痕:臃肿的框架、对供应商的依赖、单体架构、脏数据、无声的错误,以及行业倾向于在尚未理解问题之前就销售解决方案。我们在六章中讲述了这些。第七章——讲述当有人终于以耐心的方式、用意大利语和开源方式做好事情时会发生什么的故事——我们很快会写出来,在提及名称时会更加谨慎,并在桌面上提供更多数据。
与此同时,如果你能看到这里,你已经比目前正在签署企业聊天机器人合同的 90% 的决策者进行了更多的自省,他们甚至没有提出你在阅读这些章节时提出的任何问题。这是一个比他们开始时更好的起点。在接下来的几个月里,那些提出过这些问题的人和那些没有提出过问题的人之间的差异,将会在账单上变得非常明显——以及你的 AI 会给你的客户的答案。
本调查报告于 2026 年 4 月撰写,基于 2024 年底至 2026 年初为期 18 个月的企业 RAG 系统设计、构建和优化经验。
如果之前的章节让你意识到你正在经历的情况,请与我们谈谈。
联系我们
有评论吗?请写下
此消息仅发送给您。 如果您的评论有趣,我们可能会在文章末尾发布它,但仅在经过审核后。
您在输入时,浏览器正在解决一个简单的计算问题:这是我们防止自动垃圾邮件的方式,无需使用第三方服务或要求您识别图像验证码。无需任何操作,您的数据不会离开本网站。