“自动高速巡航”假新闻之所以刷屏，因为它击中了我们对自动驾驶乃至无人驾驶会失控这一内心深处的恐惧。
这种对自动化失控的恐惧不是无根之萍，而是已有不少先例。这些例子不仅包括无人驾驶汽车导致的交通事故，还包括自动巡航模式下的飞机失事所导致的代价更为惨重的灾难性事故。
面对自动化的失控大体分为两种。一种是技术太复杂，我们几乎成了奴隶，而无法像主人那样进行驾驭，只能任由事先设定的程序摆布，一旦失控——或因为先天设计的缺陷，或是因为无法预料的偶然事件比如飞机遇到鸟群或高铁遭遇雷击——便束手无策。另一种是原本应由人力在紧急状态下进行处置的任务设置，因为自动驾驶太久了导致应对能力不足而慌了手脚甚至做出错误的应对，进而加速灾难发生。
乐观派们相信，随着自动化技术的进步和日益完善，这两种失控都可以降到最低限度。比如随着大数据库越来越丰富，算法越来越精密，运算越来越高速，各种传感设备越来越灵敏，自动化系统应该会实现零差错，进而导致第一种失控的可能性也趋向为零。应对第二种失控的方法更为简单，那就是进一步扩大自动化的范围，把赋予人力那部分的任务也几乎削减为零。
不过在悲观派看来，前者之傲慢自大无异于自居上帝的思维，凸显了大数据、算法和人工智能迷信者的傲慢，考虑到所有的“学习”都是建立在既往数据基础上的，人们永远不能指望在此基础上设计出的无论多么智能的自动化程序，能避免来自充满不可知因素的未来的意外。
至于第二种思路，则有可能会导致一种恶性循环出现：自动化越复杂，留给人们参与其中的空间越少，人们越缺乏对自动化工作原理的理解力和对自动化设备及系统的掌握力。当一切设备都傻瓜化了时，我们就会变成最大的傻瓜。工具，无论是否自动化，理应更好地帮助我们延伸自己的身体和心智，去更好地感知和驾驭这个世界，而不应让我们的能力变得更退化，并导致这个世界变得对我们更封闭。
以 GPS 为例。人们普遍反映在 GPS 的帮助下，人们可以更便利地去以前没有去过的地方。然而一段时间过后，人们也普遍发现自己越来越依赖 GPS，哪怕去那些比较近或不那么陌生的地方，也会不自觉地开启 GPS，与此同时自己认路和寻找路径的能力，以及在此过程中对周边环境进行定位和认知的能力，都出现了弱化。而且依赖 GPS 导航的驾驶者还发现自己预判危险的能力也大不如前，比如由于过于集中精力听从导航设备里的语音指导，而没有注意到前方的限高提示。
此外还有一些无形的损失。我们丧失了通过自身行动感知世界存在的能力。比如以前我们步行出发去一个地方，从出发点到目的地之间不断变化的公共空间，是我们认知和了解一个城市和邂逅美好事物的主要场域，然后现在这个空间已经退化成手机上两个点之间冗余的存在。生活中的不确定性及由此产生的各种可能性已经被摒弃，我们更青睐的是准确与高效，直达目的地才是首要目标。
有时候这甚至意味着一种文化的丧失。加拿大的因纽特人曾经以在荒野中辨认方向和路径的高超能力而著称，那时他们的参考坐标是日月星辰山川河流风速气息以及草木倒伏的方向，后来当年轻的因纽特人也越来越多用起 GPS 后，这些祖祖辈辈相传的宝贵能力就消失殆尽了。更可悲的是，GPS 依赖症有时还会让他们陷入此前能够避免的险境，因为 GPS 倾向于规划最便捷的路径，而不顾湖上的冰面是否足够承重，以及山丘上的小径是否过于湿滑。
能力总是用进废退，因为自动化所导致的学习能力和独立判断能力的弱化，越来越成为自动化所引发的最大悖论。这一点在医疗领域表现得尤为明显。在各种辅助决策系统和流程自动化软件的“帮助”下，诊疗过程现在更多成为了一个各种诊断资料上传和通过算法进行诊断的过程，而医生则越来越多地成为了旁观者，尤其是那些缺乏临床经验的医生。甚至医疗界的“老司机们”直接观察并与病人面对面交谈的次数也在减少，这无疑缩小了他们带领年轻医生通过各种实际观察和症状诊断积累认知和判断能力的空间。
大数据和电子病历因其信息的相对完备性和流程规范性，无疑有助于减少诊断时的误判，但有时也会导致新的意义上的误导，因为相似的症状并不总是意味着相同的病因，但辅助决策系统通过自己的预判断无疑会潜移默化地将医生的注意力引向“概率更高”的诊断，从而屏蔽了其他的诊断可能。而很多时候正是医生们通过反复训练积累的隐性知识所带来的直觉和灵光乍现，是实现医疗诊断创意性突破的关键。过于依赖算法和程序性决策，将导致日益规范而千篇一律的诊断，在此过程中医生将变得日益平庸和保守。
类似的情形也出现在建筑设计领域。以前的建筑设计师们特别看重设计草图，因为这是将抽象理念和现实世界相关联的重要一步，随着草图越来越清晰，设计的观念也越来越具象。在此基础上，辅之以 CAD 即计算机辅助设计系统，一个完整的设计方案就离出笼不远了。而现在年轻的设计师们更倾向于一上来就启用 CAD 系统，并美其名曰为创意自动化呈现。乍看之下，因为可以实现各种设计数据的组合和设计效果的实时展现，设计的丰富性和效率以及可靠性都得到了巨大提升。然而实践表明，这种模式设计出来的建筑，因为缺乏不确定甚至痛苦的“草创”过程中对设计者隐性知识和直觉的激活，要么参照了以往过多的模板和数据显得过于平庸和机械，要么因为使用了过多“随心所欲”的参数而显得过于怪诞，往往既缺乏人文气息，又缺乏实用性。
这就像数码相机表面上赋予人们更多拍摄的自由，因其无限存储和后期修正能力，而让人们不必担心耗费太多的胶卷，对摄影者技术的要求，也随着自动聚焦自动调光调距调宽调色等各种自动化技术的提高而降低。然而悖论在于，人们似乎越来越若有所失地意识到，正是当年胶卷时代的各种限制和缺憾，才令人们更加有动力精研自己的技术，而从摄影爱好中得到的快乐和成就感也越高。
是学习能力、认知能力和以工具（无论是否自动化）作为身体延伸部分的探索世界的能力，定义了“人”的概念，也界定了人和技术的关系，如果自动化的结果是这些能力的退化和自动化深度依赖症，那就意味着我们成了自动化的奴隶。
最后需要探讨的是关于所谓自动化导致人们的解放，从而可以享受更多闲暇，进而更早进入自动化乌托邦的问题。且不论解放是不是失业的委婉替代语，就所谓闲暇本身，20 世纪初美国的家庭主妇们可能更有发言权，因为她们最早意识到自动化的悖论。在没有洗衣机和蒸汽熨斗之前，可能只需要浆洗一家之主的衣服，有了这些半自动化的机器，她们被期望把孩子们的衣服也洗涤烫熨，至于洗碗机的出现则意味着购买更多的碗碟。最后美国家庭主妇们终于意识到越来越多的劳力节省型家电的购买，就意味着越来越多新的劳动，然而已无力自拔。
除却这层意义上的悖论外，人们近年来在神经科学领域研究的进展表明，无论是体力还是脑力劳动，因其目标感和阶段性注意力的集中以及在此过程中认知与训练的积累，让人们更具成就感和存在感，反而在所谓的闲暇时段，人们的注意力更加分散，时间支出也更碎片化，或者会长时间做一些无意义的举动。
总之，现在是时候考虑为自动化设置一个红线的问题了。以牺牲人们的学习和认知能力为代价的为自动化而自动化应该适可而止了，是时候以人而非以技术为中心重新界定技术进步的目标和速率了，任何的技术进步都应该回归赋能于人类而非令其闲置这个初心。
推荐阅读：《玻璃笼子：自动化时代和我们的未来》
题图：Joey Kyber on Unsplash
一个物品如何成为一个全球化商品，一个物品如何促进全球化，一个物品又是如何实现全球化制造？「万物简史」这个栏目将从“物品”出发，去看这些“物品”如何渗透进我们的生活，并改变了我们的世界。
