判断力会成为新的健身

When AI Flies the Plane, Judgment Becomes the New Exercise

这两年我发给 AI Agent 的指令,措辞在悄悄变化。

以前是「做这个」:改一段代码、排一版格式、跑一个任务。动词是我的,判断也是我的——做什么、不做什么、做到什么程度算完,都是我想好了才发给它。

最近我注意到,越来越多的指令变成了「你觉得呢」。选方案 A 还是 B,这篇文章该不该发,这个候选人要不要约——问题的主语没变,但决定权在换手。

这不是我一个人的变化。AI 越强,这类指令就越自然:它确实比我想得快、比我看得全,多数时候比我想得对。顺着这个坡度滑下去,终点是一个没人愿意直面的问题:如果人把决策全部交出去,判断力会怎么样?社会又会怎么样?

我的答案是:末世版和乌托邦版都错。真正会发生的是分叉——而判断力,会变成新的健身。

When AI Flies the Plane, Judgment Becomes the New Exercise

一、判断力不会某天集体消失,它是一个个决策被外包后慢慢萎缩的

先承认:认知外包导致能力萎缩,有漫长的先例。

导航 App 普及之后,人的空间记忆确实在退化——那个著名的伦敦出租车司机研究是反向证据:靠脑子记路的人,海马体比常人大。计算器让心算荒废,搜索引擎让我们不再记事实。早在两千多年前,苏格拉底就在《斐德罗篇》里担心过:文字会让人「灵魂里种下遗忘」。他担心的事,每一次都发生了,人类每一次都活下来了。

所以「AI 会让人变笨」这句话本身并不新鲜,也并不可怕。可怕的是这一次的不同之处:

判断力不是技能,是权力。 而它萎缩得不均匀。

把决策交给 AI 的人,交出的是「决定」这个动作本身;而给 AI 设定目标、设计它的优化函数、验收它的产出的人,判断力不但没退,反而被放大了——因为他一个判断,现在能驱动一万个执行体。

我在 忙力所能及的事,是一种安全感 里写过自己让 AI Bot 换掉博客搜索系统的经历:它交回一个 676 行的 PR,我花二十分钟验收。那个故事里有一个容易被忽略的细节——验收是我做的。合并键在我手里,对错由我负责。这是「用 AI」和「被 AI 用」的分界线:前者保留判断,后者交出判断。

问题是,这条线不会自己守住。它每往 AI 那边挪一寸,都伴随着一次「它确实比我对」的确认。于是社会被劈成两层:一小撮判断者,和一大片被决策者。

历史上对一种认知能力的垄断就是权力。文字出现后,只有书吏能读写,那就是权力。新的鸿沟不是「能不能用上 AI」——数字接入会普及;而是「判断力归谁」——判断所有权会集中。

二、航空业已经替我们把这个实验跑过一遍

「平时更强、危机时没人会开」不是推演,是有完整事故报告和监管回应的一段行业史。

2009 年,法航 447 航班从里约飞往巴黎,在大西洋上空失速坠海,228 人遇难。调查的核心结论之一:皮托管结冰导致自动驾驶断开,把飞机交还给了机组——而接管的人在那一刻没能正确改出失速。成因很复杂,不是「飞行员不会飞」这么简单,但它确立了一个模式:自动化在 99% 的时间里更安全,代价是在剩下 1% 的异常时刻,把飞机交还给一双手感已经生锈的手。

行业的反应值得细看:不是禁用自动驾驶——那会把 99% 的安全收益也扔掉。美国 FAA 后来发布了一系列安全通告(SAFO 17007)和咨询通告,方向很明确:鼓励飞行员在条件允许的正常航班中尽量手动飞行,因为手动飞行技能是自动化失效时的保命底线,而这个技能会随自动化使用而自然衰减。

翻译成一句话:航空业发现,能力的自然漂移方向是萎缩,不主动维护就一定会丢,所以给判断力强制规定了「手动飞行时间」。

社会正在变成同一架飞机。AI 决策让日常巡航更高效、更少出错;但它同时训练出一个尾部风险——危机恰恰是判断力唯一真正重要的时刻,而危机不会因为系统强大就不来。法航 447 式的时刻,文明的损失都发生在尾部。

三、没人做决定,就没人能负责

比技能萎缩更深的,是问责结构的塌陷。

法律、医疗、管理,全都架在一根柱子上:有人做了这个决定,并且拥有它。「拥有」意味着署名、担责、可以被追问、必要时引咎。这是我在 企业级 AI 必须设计成出错后可以追责到人 里讨论过的:Agent 干活越多,问责设计越要前置。

当决定被外包,这根柱子就空了。你不能起诉一个权重,不能让一个模型「引咎辞职」,不能对一个优化函数说「你看着办,出事你负责」。问责无处安放的结果不是某个具体案件判不下去,而是整个制度的合法性慢慢被掏空——不是因为暴政,是因为 nothing is owned。民主制度默认选民有判断力;当这个前提松动,民主不是被推翻,是被荒废。

还有一个更隐蔽的风险:决策同质化。当所有人用相似的 AI 做相似的决策,错误就不再是独立的了。多元判断本来是社会对冲风险的方式——不同的脑子犯不同的错,互相抵消。判断同质化意味着一个错误假设会同时成为所有人的错误假设。单一作物最脆弱,单一思维也是。

四、最强的反驳:判断力不是流失,是再分配?

给这篇文章找茬,最聪明的一击是这个:

每一项技术都外包了认知,每一次省下的能力都流向了更高阶的事。文字外包记忆,省下的用来思辨;计算器外包算术,省下的用来建模。AI 接走的,是那些本来就不算「判断」的决定——走哪条路、回哪封邮件模板、选哪个套餐。人腾出手来,做真正是判断的决定:建什么、雇谁、看重什么。这不是判断力流失,是判断力再分配。

这个乐观版本对一半。

它对,是因为很多「决定」从来就不是判断,是琐事,交出去毫无损失。我完全同意 AI 应该接管这部分。

它错,是因为一个隐含假设:「处理琐事的判断」和「做大事的判断」是两块不同的肌肉,前者可以扔,后者能留下。

它们是同一块。

判断力有一部分是跨领域的通用心智,而琐事正是它的训练场。能力是靠行使的量养出来的,不是靠事情的重要性养出来的——你不可能一边把所有小决定外包出去,一边保留做大决定的能力。「让 AI 处理琐碎,你好专注于真正重要的事」,这句话里藏着一个陷阱:等真正重要的决定来临时,那块肌肉已经萎缩了。

航空业早就用规章承认了这一点:飞行员的手感不是靠「遇到大事时集中使用」维持的,是靠日常巡航中一次次不必要的手动飞行维持的。

五、判断力会成为新的健身

把前面几节合起来,末世版(人人变成被动的决策消费者)和乌托邦版(人人被解放去做高阶判断)都错,因为它们假设一个单一的均衡。真正会发生的是分叉:

                AI 接管决策
        ┌────────────┴────────────┐
        ▼                         ▼
  主动行使判断的人            外包判断的人
        │                         │
  判断力被 AI 放大            依赖加深、能力萎缩
  (一个判断驱动            (更弱、更被治理、
   一万个执行体)             退订即失控)
        │                         │
        ▼                         ▼
     杠杆层                      被决策层

一小部分人主动保持判断力的行使,并因此从 AI 拿到巨大的杠杆;一大部分人外包它,于是更依赖、更弱、更被治理。问题不是「社会会怎样」,是「你选择待在哪一层」。

这里有一个特别贴切的先例。电梯和机械化把体力劳动从日常里抽走之后,「锻炼」发生了性质变化:从生存必需,变成了 主动选择。健身房里的人,是在刻意维持一种生活已经不再要求的身体能力——环境不再逼你爬楼梯,你要专门腾时间、办卡、流汗,才能不把身体丢掉。

判断力会走同一条路。当 AI 接管了日常决策,保持判断力会变成一种「认知健身」:不再是环境逼你做的,是你得专门设计、刻意去做的。社会分层的新形态可能就是这个:有人在认知健身房里,有人连电梯都按了自动。

六、给判断力留出手动飞行时间

航空业的答案不是关掉自动驾驶,是强制手动飞行时间。社会和个人需要同样两条:

制度层面,守住几块「人必须亲自决定」的地。 学校、医院、法庭、企业高层——这些领域的决定不能被优化成「AI 建议、人签字」,签字的人必须真的拥有过这个决定:看过原始材料,权衡过被放弃的选项,能为结果心疼。FAA 的逻辑在这里同样成立:不是因为手动更好,是因为手动是保命的底线技能,而底线技能会自然漂移。

个人层面,刻意保留「不问 AI」的决定。 这件事和我在 克制是文明最贵的表达 里写的是同一块肌肉的两个方向:那篇讲的是「你有能力做,你选择不做」——删三万行代码会心疼,忍住不告诉孩子答案会难受。这篇讲的是反面:判断力靠行使的量维持,所以有些决定哪怕 AI 给得又快又好,也要自己走完一遍权衡的过程。不是不信任 AI,是给自己的判断肌肉留训练量。

最后说一句判断力的内核。它不是「选什么」,是 「决定不做什么」。这是 AI 结构上给不了你的部分——在 两个对手,同一套打法 里我引过 Lenny 的观察:AI 只会建议加东西,不会建议删。原因就在这里:AI 没有「代价」,它不会为放弃任何东西而心疼。而心疼,恰恰是判断在工作的样子。

人停止判断的社会不会轰然倒塌。它会安静地分层:一层人还在为「不做什么」心疼,一层人把这件事也交了出去。

你最近一次「不问 AI、自己扛下后果」的决定是什么?欢迎留言讨论。


See also