我在宾夕法尼亚大学人机交互实验室的 Slack 频道通常会稳定地发布课程提醒和爬墙机器人视频。但去年春天，第一起特斯拉 Autopilot 相关致命事故的消息让这个频道充满了批评性的讨论。
研究生研究助理：所有推出产品的人都有一个习惯，就是为了让人们/投资者保持兴奋而声称产品正在工作，即使他们还没有真正开始。
博士后研究员：我的看法是，至少在技术改进之前，这种失败是不可避免的。特斯拉率先尝试，因此受到了更严格的审查。
学生研究员：如果司机在驾驶时保持专注，他们就不会把牵引车误认为是路牌。
就这样持续了好几天。争论的双方都有道理。于是我做了功课，详细阅读了这起事故——事故夺走了一位在特斯拉 Model S 上开启 Autopilot 模式时发生事故的俄亥俄州男子的生命。我想了解这个系统，也许是迄今为止最先进的人机交互公开实验，是如何如此糟糕地出了错。这名男子的汽车撞上了一辆横穿佛罗里达州 27A 号美国公路的牵引车。据特斯拉称，汽车的紧急制动系统未能区分卡车的白色侧面和明亮的蓝色天空。
从技术角度来看，这就是问题的所在。对汽车安全专家和特斯拉来说，更重要的因素是司机也没有注意到即将发生的碰撞。所以他没有刹车——他的车就开进了拖车底下。
随着自动驾驶汽车开始上路，是时候评估我们对智能机器和我们生活中的机器人的长期存在的误解了。我们中的许多人都是看着《霹雳游侠》中像 KITT 这样全知全能的机器人伙伴长大的。（“我希望这事结束后能彻底给我来个打蜡。”）
这是虚构的，但我们的期望被设定了——而且可能被 Roomba 等“设置好就不用管”的家用机器人和无处不在的洗碗机进一步巩固了。
Autopilot 并不是我们集体想象中的 KITT 情景。它的说明明确指出，人类必须继续参与自动化过程。（即使是智能机器，我们仍然需要阅读说明！）特斯拉公开宣称其 Autopilot 软件是一个测试版本（意味着它仍在解决 bug），并警告驾驶员要保持警惕，双手放在方向盘上。但是，工程和营销之间存在着细微的脱节。特斯拉 2015 年 10 月发布软件更新的博客文章标题是“您的 Autopilot 已抵达”，仿佛一个机器人司机即将出现接我们。在海外，该公司在中国市场的营销将这一新功能翻译为“自动驾驶”——这一事实导致一位司机因此指责特斯拉剐蹭了一辆停着的汽车。
早期 Autopilot 的采用者加剧了我们的幻想和滥用技术的愿望。令人兴奋的 YouTube 视频开始涌现，展示了成年人（咯咯笑着）双手离开方向盘，如同在过山车上一样测试汽车，并在交通中玩跳棋和叠叠乐。一个观看量达到五十万次的专业制作的视频评论，在其描述中提供了这个“并非非常有用的”建议：“免责声明：……此视频中的活动是制作和编辑的。安全是我们的重中之重。不要愚蠢。注意看路。”
所以，不要做我们刚刚做的事情。
对。
他们忽略了：共享控制才是自动驾驶游戏的名称。
我们可以从战斗机飞行员的训练中了解到很多关于这种关系的信息。自卡特政府以来，专业人士一直在使用所谓的“电传操纵”（fly-by-wire）技术，这是一个统称，指任何由计算机控制的飞行辅助系统。与 Autopilot 类似，电传操纵是一种辅助技术，旨在增强而不是取代飞行员管理飞机的责任。飞行员需要经过多年的培训才能掌控驾驶舱，深刻了解计算机正在看到什么以及它如何处理信息。他们还学会了在技术存在的情况下保持态势感知并随时准备做出反应——而不是采取一种放任自流、让飞机自己工作的态度。
普通驾驶员不可能经过像飞行员那样的深度培训。但汽车制造商必须找到有效的变通方法。首先，他们需要比安装 Autopilot 软件更新时屏幕上显示的软件发布说明更多的东西。他们应该开发简短的培训计划——类似于一些州要求的驾船执照的周末课程——来帮助人们了解自动化是如何工作的，何时以及何时不应该工作，以及为什么人类驾驶员需要准备好接管。“像 Autopilot 这样的自动化技术存在一个问题，那就是当出现错误时，人们往往会脱离循环，并且很难同时检测到问题和了解如何纠正它，”前美国空军首席科学家、电传操纵和人机交互专家 Mica Endsley 说。
培训更聪明的驾驶员是解决方案的一部分。但自动驾驶软件需要加强这种培训。设计这些软件和汽车的工程师需要了解人类行为和认知，才能更好地与公众沟通。值得庆幸的是，这种人机交互已经成为汽车制造商和学者日益增长的研究领域。在斯坦福大学，交互设计专家正在学习如何使自动驾驶汽车的摄像头、雷达和传感器感知以及推理对人类更加透明。他们说，汽车制造商应该采用通俗的语音提示（“前方有障碍物，正在刹车”）和物理控制变化（例如，当驾驶员需要接管时，改变方向盘的角度），以提醒驾驶员注意路况变化——比如即将变道的卡车——或者防止他们白日做梦而驶入沟渠。
这种交接信号仍然相当微妙，但应该会变得不那么微妙。在 Model S 上，当驾驶员需要接管时，Autopilot 仪表板图标的音频提示和颜色变化是他们收到的所有信号。凯迪拉克 SuperCruise 和沃尔沃 Pilot Assist 会轻微震动座椅或方向盘来引起注意，以达到相同的目的。但汽车制造商需要更积极地帮助我们；斯坦福大学的一项最新研究表明，多感官方法——例如，结合颤抖的方向盘、语音提示和闪烁的灯光——可能是一种加快反应时间的更好方法。
在处理新技术方面，没有人想慢慢来。在这个即时应用程序、地图和手指滑动交易的时代更是如此。但驾驶员应该谨慎（并保持警惕！）地进入自动驾驶汽车的世界。可能会让人在高速公路上放松警惕的技术，既需要对人类进行更好的培训，也需要更智能的机器警报系统。
去年五月发生的致命的 Autopilot 事故可能是一个最坏的情况，但它也突显了人类和机器共同承担驾驶任务的重要性。
本文最初发表于 2016 年 11/12 月的《大众科学》杂志，标题为“不要责怪机器人；责怪我们”。
