“自动化”的代价
自动驾驶仪科技技术让飞行员“失技”仅是问题的冰山一角。为使工作和生活方便、高效和舒适,人类越来越依赖机械和各种数字技术,却忽略可能为此付出的代价。
如今,很多医生用软件分析乳腺钼靶X射线照片,勾勒出患者乳房“可疑区域”。但如果过于依赖这种软件,放射科医生可能草草略过没有勾出的区域,遗漏查看一个尚处早期的肿瘤。
生活在加拿大北部的伊格卢利克岛的因纽特猎人天生有在雪地中追踪猎物的本领。这里冬天平均气温零下20度左右,阳光是稀罕物,周围海水结成厚厚的冰层。因纽特人在此生活4000多年,无需地图和指南针,凭借风向、雪堆、动物习性、星辰和潮汐等等就能辨别方向,令探险家和科学家好奇不已。
如今,新一代的因纽特人仍然打猎谋生,但越来越依赖GPS导航工具辨别方向。结果,打猎时严重事故日渐增多。没有掌握先辈找路技巧的年轻猎人很容易迷路,特别是GPS失灵的时候。如果只顾着按导航指示前行,也容易忽略观察周边环境潜藏的危险,比如薄冰层。
渥太华加利顿大学的人类学家克劳迪奥·阿波塔研究因纽特猎人超过15年,他注意到,卫星导航使因纽特人的找路本领退化,并且弱化了他们对环境的感知能力。由于这种导航工具的使用,因纽特人特有的天赋可能在一代人之后消磨殆尽。
“生成效应”
早在20世纪80年代,伦敦大学学院工程心理学家利桑娜·班布里奇就指出,由于认为人脑与电脑相比较为“低效、不可靠”,不少设计尽可能减少人力操控,结果操作员沦为“电脑屏幕监测员”,而这恰恰是人类最容易搞砸的工作。
对警戒性的调查发现,让一个人盯着数据显示屏,保持专注的时间很难超过半小时。“这意味着,就人类天性而言,根本不可能承担监测不寻常征兆这种基础工作,”班布里奇1983年在《自动化》期刊撰文指出。
另一方面,即使技艺再娴熟,如果长期只负责监测观察,一个操作员也难免技艺生疏,一旦发生故障或意外难以做出正确反应。
上世纪70年代晚期开始,心理学家注意到一种“生成效应”现象。例如:人们学习新词汇时,如果能够主动在脑中“生成”该词汇——比如亲笔拼写出来,会比单纯阅读更容易记忆。
“生成效应”的影响在越来越多领域得到验证:积极参与完成一项任务,积极思考的过程使人们更容易获取知识。不断重复这一过程,所谓“熟能生巧”,人脑中便能积累起一个丰富而有条理的信息库,便于自己不时从中汲取。
澳大利亚一项研究比较三家跨国会计师事务所的专业水准。其中一家使用先进软件,根据会计师输入的数据为客户分析潜在的商业风险。另两家事务所采用相对简单的软件,需要会计师自主分析和选择风险。最后测试发现,后两家事务所的会计师的风险分析水平明显高于前一家。
出路:多手动还是全自动?
为了不让自动化把人脑变迟钝,心理学家发现一些简单的弥补方法,例如让自动化软件频繁而不定时地回到手动操控模式。因为知道随时要接手,操作员会加强练习并提高应变意识。
还可以为自动化操控设定一定范围,确保由人脑而非电脑操控较复杂的任务。总之,就是逼着人多动手多动脑,别事事让电脑程序代劳。
也有人给出不同的解决方案:既然担心人类犯错误,那就努力实现“全自动”,别让人类插手。
谈到自动驾驶仪与航空事故时,技术理论学家凯文·凯利认为,研发一个完全自动化的驾驶仪才是出路所在。“长远来说,就不该让人类飞行员驾驶飞机,”他说。
硅谷风险投资家维诺德·科斯拉最近也提出,假如医学诊断软件能够进化到完全替代人类医生,医疗保障体系将大有改善。
问题在于,没有完美无缺的机器。即使最先进的技术系统,早晚也会出现失误或崩溃,也可能遭遇设计者从未预想过的突发情况。即使真有“完美”系统,也必须在一个不完美的世界运行。
2010年10月,谷歌公司宣布造出7辆“自动驾驶汽车”,跑了20多万公里路。2011年2月,美国智力竞答电视节目《危险!》中,IBM公司开发的超级电脑“沃森”挑战常胜冠军肯·詹宁斯,这场人机大战以机器取胜告终。“沃森”并不懂自己在回答些什么,取胜奥妙在于一个超高速的计算机处理器。
计算机的潜能无可估量,你愿意让它完全代替人类的手脚和头脑,还是牺牲效率和舒适,让人类从学习和劳动中加深对世界的认识?
如果不愿动脑思考这个问题,让计算机来替你作答吧。