AI 的决策权是挣来的
大公司说要让 AI 参与决策,往往推不下去,因为没人答得上来:它错了谁负责?
很多公司的管理层都说过类似的话:“要大胆让 AI 参与决策。”然后就没有下文了。卡住的往往是一个谁也答不上来的问题:AI 错了,谁负责?
一个可行的思路,是参照给新员工授权的方式,让 AI 一级一级地挣。每个决定都记进台账,随时可以撤回;自主权分成几级,每升一级都要有人签字;该升还是该降,看人工否决率。这个数字每天都有,比准确率好用。
责任落不到人头上
让 AI 做决定,就得有人回答“错了怎么办”。业务负责人不想回答,系统不是他建的;IT 不想回答,业务判断不归 IT 管;法务管的是合规风险,最稳妥的办法自然是不让它做决定。
三方的顾虑都说得通,可结果是责任落不到具体的人身上,决策权也就交不出去。AI 最后只能停在“仅供参考”,而参考意见是可以不看的。
其实我们给人授权,也从来不是一次给足的。新员工头三个月做的东西都要有人复核,之后才慢慢放手。财务有审批额度,五万以下经理批,五十万以上要副总裁批,这条线会随着资历往上调,出了问题也会往下调。权限分级,升级要有依据,而且随时能收回。给 AI 授权,也可以照这个办法来。落到系统里,要有三样东西:台账、分级,还有签字的人。
台账
AI 做的每个决定都记一笔:定了什么,依据哪些数据和规则,后来结果怎么样,如果要撤回该怎么撤。
前三项让决定可以审计,最后一项让人敢用。一个撤不回来的决定,很少有人敢交给系统去做;能一键撤回的,试一试的成本就低多了。
台账还有一个好处。“AI 靠不靠谱”这种问题很难回答,有了台账,问题就变成“上个月这三百个决定里,哪几个有问题”。后一个问题是可以拿到会上具体讨论的。
分级,以及为什么看否决率
自主权分四级:AI 只给建议,由人来决定;AI 先把答案填好,人逐条确认;AI 的答案默认生效,人在规定时间内可以否决;AI 直接执行,人事后抽查。每一类决定单独定级,各自升降。
升级和降级要有依据。很多人第一反应是看准确率,可准确率需要标准答案,而业务里大多数决定没有标准答案。一次拜访安排得对不对,可能要一个季度以后才看得出来,也可能永远说不清。要等准确率,就很难升级。
相比之下,人工否决率更实用,也就是 AI 给出的决定里有多少被人改掉了。这个数字每天都有,不用等结果出来。而且它反映的正是放权时最要紧的一件事:负责这件事的人信不信 AI。否决率持续下降,就有了升一级的依据;突然升高,就自动降一级,同时触发检查。
这个指标也有漏洞,人会偷懒,看都不看就全部通过,所以还要定期抽查那些被通过的决定。
签字的人
每一级都要对应到一个具体的人。在逐条确认那一级,责任在确认的人身上。在默认生效那一级,责任在握有否决权的人身上,也在批准这类决定升到这一级的人身上。
关键在于,升级本身也是一个要有人签字的决定。系统不会自己悄悄升上去,得有一位负责人看过台账和否决率,签字确认:这类决定,可以让它自己做了。
这样一来,“AI 错了谁负责”就有了答案,和“下属错了谁负责”一样,是给他授权的那个人。
顺带得到的东西
这套机制运转起来以后,再要求每次否决都写明理由,就会积累出一份公司以前从来没有的数据:人为什么否决 AI。
“这位医生下个月就退休了,系统不知道。”“这家医院刚换了院长,现在不适合去。”“这个数没算错,但现在不是调的时候。”
这些理由原本只存在于一线员工和管理者的脑子里,从来没写下来过,人一走就跟着带走了。现在每否决一次,就留下一条。这样的数据只能从自己的业务里长出来,买不到。
当然,这三样东西本身也有成本。设计得太重,审批和留痕花掉的精力,可能比 AI 省下来的还多。
