今年3月，位于旧金山的无人驾驶卡车公司“星空机器人”(Starsky Robotics)宣告关门。创始人斯蒂芬·塞尔兹-阿克斯马赫(Stefan Seltz-Axmacher)给出了失败的几个原因。由于一系列科技公司上市后表现不佳，加之货运业务衰退，投资者的兴趣已经开始降温。他写道，自己的公司重视安全性，但缺乏耐心的资方对此反应不佳，他们宁愿看到技术花哨的新功能被源源不断地开发出来。但最大的问题是，技术根本无法胜任。“有监督的机器学习达不到现在热炒的程度。这不是类似于c-3PO(《星球大战》电影中的人形机器人)的真正的人工智能。这无非是一种先进的模式匹配工具。”

　　监管社交媒体，发现欺诈行为，在古老的游戏中击败人类——这些固然都很好。但是，制造一种能够在普通道路上自主行驶的汽车(以及让计算机与人开展听上去合理的对话)是现代AI的宏伟目标之一。有人认为无人驾驶汽车可以让人们随时召唤机器人出租车，这样就不需要拥有汽车了。他们也相信这些车会更安全。电脑永不疲倦，也永远不会分神。根据世卫组织的数据，每年有超过一百万人死于易犯错的人类驾驶员引发的车祸。无人车的拥护者们希望能大幅削减这些数字。

　　它们本来很快就要做到了。电动汽车制造商特斯拉的老板埃隆·马斯克在2015年预测，“完全自主”将在2018年到来。通用汽车在2016年收购的无人驾驶公司克鲁斯(Cruise)曾计划2019年之前在旧金山推出无人驾驶出租车。2015年，被广泛视为行业领头羊的谷歌子公司Waymo的时任老板克里斯·厄姆森(Chris Urmson)表示，希望自己11岁的儿子永远不需要驾照。

　　但是进展慢了下来。2018年，网约车公司优步测试的一辆无人车在亚利桑那州撞到了一名推着自行车过马路的女性，成为无人车致行人死亡的第一例。特斯拉的“自动驾驶”(Autopilot)软件虽名为“自动”，用户依然须将手放在方向盘上并看着路(几个看起来没能做到的人在事故中丧生)。极少数几家载客的公司，例如美国的Waymo和中国的文远知行，覆盖的地理范围都不大，并且依赖人类安全驾驶员。已离开Waymo的厄姆森现在认为这项技术的推广速度会更慢、更渐进。

　　黑天鹅和苦涩的教训

　　无人驾驶汽车的工作原理与其他机器学习应用是一样的。计算机处理大量数据以提取有关如何驾驶的一般规则。至少从理论上讲，数据越多，系统的性能越好。特斯拉的汽车不断将数据传回总部，用来完善软件。Waymo声称，它的汽车除在现实世界中行驶了数百万英里外，也使用模拟驾驶在虚拟环境中生成了远超过十亿英里的数据。

　　澳大利亚机器人专家罗德尼·布鲁克斯(Rodney Brooks)长期以来一直对无人驾驶技术的辉煌未来持怀疑态度。他说，问题在于深度学习的方法从根本上说是一种统计方法，根据由训练数据规定的方式把输入与输出联系起来。这使它们无法应付工程师们说的“边缘案例”，即训练数据中不常见的异常情况。驾驶充满了这类怪事。其中一些是“大场面”，比如路上有一匹脱缰的马，或者是轻型飞机紧急降落在高速公路上(4月份在加拿大发生)。大多数不是什么大事，例如一个人穿着小鸡造型的服装跑出来。人类驾驶员应对这种情况一般都不假思索，机器却步履维艰。

　　例如，一项研究发现，当车道标记被雪部分覆盖时，计算机视觉系统就晕了。另一项研究发现，某些贴纸可能会导致汽车将“停车”标志误认为是时速限制45英里的标志。即使是未被遮挡的物体，如果从不寻常的方向观察也会迷惑计算机，比如一篇论文提到摩托车被归类成了降落伞或雪橇。塞尔兹-阿克斯马赫说，解决此类问题极其困难。“很多人认为完成最后10%要比前90%更难，”他说，“但没想过要难一万倍。”

　　杜克大学人类与自主实验室主任玛丽·“丫头”·卡明斯(Mary “Missy” Cummings)说，人类能够更好地应对这些怪异的情形，因为他们可以用对世界运行方式“自上而下”的推理，来指导感官收到的“自下而上”的信号模糊或不完整的情况。AI系统大多缺乏这种能力，从某种意义上说，它只能用一半的大脑工作。尽管它们在自己的舒适区十分称职，但即使是微不足道的改变也可能带来问题。由于缺乏推理和归纳能力，那些让计算机能够工作的数据也会禁锢它们。卡明斯博士说：“这些系统从根本上就是脆弱的。”

　　在无人车以外的领域，这种智能的狭隘也显而易见。谷歌的“翻译”系统在语言互译方面通常都做得不错。但在2018年，研究人员注意到，当被要求把连续18个“dog”译成约鲁巴语(尼日利亚和贝宁的部分地区使用的一种语言)再译回英语时，它给出了这样的译文：“末日钟还有三分钟就要到12点。我们正在经历世界上的人物和戏剧性发展，这表明我们越来越接近末日和耶稣的归来。”

　　纽约大学的心理学教授加里·马库斯(Gary Marcus)表示，除了颇有些喜剧价值外，误译凸显了谷歌的系统并不理解语言的基本结构。它全然不懂动词或名词之类的概念，更不用说理解名词指的是现实世界中的物理对象了。相反，它构造了统计规则，将一种语言的字母字符串与另一种语言的字母字符串联系在一起，但对这些字母所指的概念一无所知。因此，他说，哪怕幼儿也能轻易解答的问题也会让语言处理系统困惑不已。

　　这些限制到底有多紧要因领域而异。毕竟自动化系统并不一定要胜过专业译员才有用处(谷歌的系统之后有所调整)。但这确实也给聊天机器人或个人助手到底能做到什么程度设置了上限。而对于无人车等性命攸关的应用，卡明斯博士说，AI的局限性可能会成为拦路虎。

　　研究人员开始思索如何解决问题。AI领域的资深活动家约书亚·本希奥(Yoshua Bengio)在12月的一次会议中专门就此发表了主题演讲。本希奥博士说，当前的机器学习系统“以一种非常狭隘的方式学习，它们需要比[人类]多得多的数据来学习新任务，它们需要人类通过标签提供高级概念，但仍然犯下非常愚蠢的错误。”

　　超越深度学习

　　不同的研究人员对如何改进现状有不同的想法。一种想法是扩大机器训练的范围，而不单是数量。斯坦福大学AI实验室的克里斯托弗·曼宁(Christopher Manning)指出，相比机器，生物大脑学习的数据集要丰富得多。人工语言模型仅用大量的文本或语音训练。他说，但婴儿可以依靠声音、语调或跟踪父母的眼神，以及丰富的物理环境来帮助自己在现实世界中把握抽象概念。这涉及到AI研究中一个叫做“具身认知”的古老观点，它认为如果人们要正确地理解世界，就需要充分沉浸其中，而不仅限于抽象的存在，如数据中心里的一些电脉冲。

　　生物学也提供了一些思路。布鲁克斯博士认为，当前一代AI研究人员“迷恋”始于空白状态的模型——创建者没有手工置入任何提示。但是“所有动物的大脑都有天生的结构，”他说，“本能就是从这里来的。”

　　马库斯博士则认为，机器学习技术应与较早的“符号AI”方法结合使用。这些方法强调形式逻辑、层次类别和自上而下的推理，在1980年代最受欢迎。现在，随着机器学习方法的兴起，它们已成为一潭死水。

　　但其他人则主张坚持现有方法。去年，艾伯塔大学和DeepMind的AI研究人员理查德·萨顿(Richard Sutton)发表了一篇名为《苦涩的教训》(The Bitter Lesson)的文章，认为AI的历史表明，试图将人类的理解建构到计算机中的尝试很少行得通。相反，该领域的大多数进步都得益于摩尔定律，以及不断引入更多蛮力计算来解决问题的能力。“苦涩的教训”是：“[人类]思想的实际内容极度、无可救药地复杂……这不是应该置入[机器]的东西。”

　　在研究实验室之外，人们对无人车的期待正在降温。一些中国公司正尝试在城市基础设施中构建数字导轨，以减轻无人车本身的认知负担。同时，成熟的汽车制造商现在更喜欢谈论“驾驶员辅助”工具，例如自动车道保持或停车系统，而不是完全自主驾驶的汽车。新一波创业公司则有意缩减野心，希望制造能在狭小有限的区域(如机场或退休社区)里行驶的汽车，或在人行道上缓慢移动、在人员的远程监督下递送包裹的车辆。“出于科学原因，我们不打算使用现有的技术实现完全无人驾驶，”卡明斯博士说，“这些不那么宏伟的目标——我觉得要现实得多。”

　　【好词好句】

　　1. did not go down well with impatient funders, who preferred to see a steady stream of whizzy new features 自己的公司重视安全性，但缺乏耐心的资方对此反应不佳，他们宁愿看到技术花哨的新功能被源源不断地开发出来

　　2. But the biggest problem was that the technology was simply not up to the job. 但最大的问题是，技术根本无法胜任。

　　3. policing social media 监管社交媒体

　　4. defeating humans at ancient games 在古老的游戏中击败人类

　　5. getting computers to conduct plausible conversations 让计算机与人开展听上去合理的对话

　　6. building a vehicle that can drive itself on ordinary roads 制造一种能够在普通道路上自主行驶的汽车

　　7. Computers never tire, and their attention never wanders. 电脑永不疲倦，也永远不会分神。

　　8. Self-driving cars work in the same way as other applications of machine learning. 无人驾驶汽车的工作原理与其他机器学习应用是一样的。

　　9. The more data, at least in theory, the better the systems perform. 至少从理论上讲，数据越多，系统的性能越好。

　　10. Driving is full of such oddities. 驾驶充满了这类怪事。

　　11. Human drivers usually deal with them without thinking. But machines struggle. 人类驾驶员应对这种情况一般都不假思索，机器却步履维艰。

　　12. Even unobscured objects can baffle computers when seen in unusual orientations. 即使是未被遮挡的物体，如果从不寻常的方向观察也会迷惑计算机。

　　13. Though they are competent in their comfort zone, even trivial changes can be problematic. 尽管它们在自己的舒适区十分称职，但即使是微不足道的改变也可能带来问题。

　　14. These systems are fundamentally brittle. 这些系统从根本上就是脆弱的。

　　15. This narrow intelligence is visible in areas beyond just self-driving cars. 在无人车以外的领域，这种智能的狭隘也显而易见。