模型是买来的,harness 是自己写的
企业里的 AI 靠不靠谱,很大程度上取决于模型外面那一层,行内叫 harness。模型谁都买得到,这一层只能自己一点点写。
模型是买来的。一家公司能买到的模型,竞争对手也能买到,而且差不多每半年就会出一个更好、更便宜的。包在模型外面的那一层,行内叫 harness,里面写的是公司自己的规矩:客户怎么分级,预算怎么分,什么情况要谁审批,出了错怎么善后。这些东西买不来,别人也很难照搬。
所以企业自己能积累下来的,主要是这一层。自己训练模型、抢着买最贵的平台,都不如把公司的决策流程一条一条写进 harness 来得划算。
四个词,四种分工
Chatbot、Copilot、Agent、Harness 这几个词经常被排成一条进化路线,好像一代比一代先进。我更习惯把它们看成四种分工,区别在于 AI 能决定到哪一步。
| 分工 | AI 做什么 | 人做什么 |
|---|---|---|
| Chatbot | 回答问题 | 提问,自己判断,自己动手 |
| Copilot | 给建议 | 采纳或者忽略 |
| Agent | 执行一件交代好的事 | 交代任务,验收结果 |
| Harness | 在划定的边界里持续做决定 | 定规则,处理例外 |
这四种分工不需要一级一级往上爬。产品知识问答做成 Chatbot 就够用了,让它自己去执行什么意义不大。比较常见的问题是名字和实际对不上:只能问答的系统叫“智能体平台”,每一步都要人确认的流程对外说成“自主 Agent”。叫什么名字本身无所谓,麻烦在于管理层会以为决策权已经交出去了,其实并没有。
越往后,AI 手里的权力越大,模型本身能保证的东西就越少。英文 harness 的原意是马具,套在马身上,让马的力气既用得上,又不出事。到了最后一种分工,人已经不再盯着每一次执行,人管的是这套马具。
这一层里有什么
管一个 AI 和管一个新员工,要解决的问题差不多。所以 harness 的每个组成部分,在公司现有的管理办法里都有对应。
| 组成部分 | 管什么 | 公司里原有的做法 |
|---|---|---|
| 上下文 | AI 做决定前能看到什么,比如客户是谁、公司的统一口径是什么 | 岗位手册、交接文档 |
| 工具 | 能调用哪些系统,能读什么、写什么 | 系统账号和权限 |
| 流程 | 一件事分几步,哪一步用模型,哪一步用代码 | SOP |
| 边界 | 哪些可以自己定,哪些要人批,哪些绝对不能碰 | 审批流、授权额度、合规红线 |
| 台账 | 每个决定的依据、结果,以及怎么撤回 | 业务台账、审批记录 |
| 评测 | 持续检查做得好不好,据此调整权限 | 质检、审计、绩效考核 |
新员工做不好事,很多时候是因为没人跟他讲清楚背景,上下文要解决的就是这个问题。入职第一天 IT 给他开通哪些系统,决定了他能做哪些事,这对应工具。业务没有台账就没法审计,AI 做的决定没有记录,出了问题也没法追责。表里最后三项合起来,就是组织一步一步给 AI 放权的机制。
这几项里,流程值得多说几句,尤其是涉及数字的环节由谁来算。我做的两个产品都是这样分工的:大模型负责理解问题、安排步骤、解释结果,金额、指标、排名这些数字全部交给代码按固定规则来算,不让模型去“估”,这样结果可以复算,也可以审计。业务部门能接受 AI 的措辞不够完美,但很难接受同一个指标算两遍出来两个数。
模型更强了,这一层还要不要
一个很有力的反对意见是,模型会越来越强,到时候就不需要这一层了。这话有一部分是对的。harness 里用来弥补模型能力不足的东西,比如各种提示词技巧,确实会慢慢被更强的模型取代。
但公司自己的规矩不会。模型再强,也不会知道一家公司里哪类费用要哪一级审批,哪几家客户不能按常规分级,上次出了问题以后是怎么善后的。这些东西只存在于公司的流程里和老员工的脑子里。把它们写下来,写细,写到系统能照着执行的程度,这件事没法外包给模型厂商,也不会因为下一代模型发布就过时。
