今年早些时候,我写过这样一个案例:一家电商公司的 AI Agent 自动调整了 2000 个 SKU 的定价,部分商品以成本价以下售出,一天亏了 80 万。复盘会上——
运营说:是 AI 自动调的。技术说:是数据源有异常。数据团队说:数据是实时抓取的,跟我们无关。
没有一个人为这 80 万负责。(案例详见企业级 AI 必须设计成出错后可以追责到人)
那篇文章讲的是工程层面怎么追责:授权链、策略签名、审计日志。但写完之后,有一个更根本的问题一直挂着我:
为什么必须追到「人」?为什么不能追到 Agent 本身?
这个问题听起来像文字游戏,其实不是。它决定了你的数字员工部署从哪里画下第一根线——第一根线画错了,后面每一根都是错的。
前段时间我把这个问题的推导写成了一份内部文档。这篇文章是它的公开版:不做功能罗列,不列合规清单,从第一性原理出发,推导数字员工要成为组织成员必须满足什么条件。
[Read More]