摘要
上周组会上，一个学生汇报完开题方向调整，我脑子里突然冒出一句话：AI 提供能力，但责任需要作者承担。这就是人机协同最大的张力。这话不是我从哪本书里看来的，是在组会讨论中自己提炼出来的。当时大家聊到人机协同中的核查问题，聊着聊着，我突然意识到，整个问题的起点，其实是一个更根本的追问：你把认知外包给 AI 的那一刻，就丧失了核查它的能力。这不是态度问题 —— 不是你不够认真、不够负责。这是能力问题 —— 你根本查不了。你想想看：你让 AI 帮你做了一份数据分析，它跑出来的结果你看了，觉得「嗯，挺合理的」。但「挺合理」是什么意思？意思是它符合你的直觉预期。而你的直觉预期，恰恰是你自己做不到、才让 AI 代劳的那部分认知的边界。你用自己做不到的认知水平，去判断一份自己做不到的分析——这不是核查，这是盖章。更扎心的是，那个学生原本的开题方向是面向高 AI 素养人群的。组会上我提醒他：「你在好用的 AI 环境中待时间太长了，会忘掉普通人真实的认知水平。」他天天用 AI，觉得核查不难，觉得「仔细看看就行」。但我想说的是：我们这些人天天泡在 AI 环境里，对 AI 的输出模式已经很熟悉了，看到一份结果大概能判断哪里可能有问题。可普通人呢？他们拿到一份 AI 生成的报告，能做什么？说实话，能做的很少。你可能会觉得这是我个人对 AI 的过度警惕。但看看其他领域发生了什么 ——2009 年，土耳其航空一架航班在阿姆斯特丹降落时坠毁，9 人遇难。怎么回事呢？飞机的自动驾驶系统因为一个传感器故障，错误地判断飞机已经到达地面，自动进入了着陆拉平模式 —— 减速并拉起机头。当时有雾，飞行员难以目视判断真实高度，只能依赖仪表指示。系统说没问题，他们就信了。直到约 500 英尺处才发现速度过低，但已无力回天。飞行员不是不认真，他们是受过严格训练的职业飞行员。但自动化系统一旦给出信号，人的大脑就会下意识地选择最省力的路径：相信它。心理学上把这叫作「自动化偏见」（Parasuraman & Riley, 1997）—— 不是态度问题，是认知结构问题。飞行员尚且如此，普通人又能怎样？AI 替你做了你自己做不了的事，然后让你签字负责——但你签字的依据，恰恰是你自己做不到的那部分认知。这不是协同，这是倒置。困局说到这里，你可能会觉得：那我就更仔细地查呗，多花点时间，总能查出来的。