本系列文章第二篇，探讨机器人学的重大迷思，以及科幻小说在其中制造和传播这些迷思的作用。之前和以前的主题分别是：机器人很强大，机器人过度能力的神话，以及机器人很邪恶，杀人机器的神话。
1993年，维诺·文奇写了一篇关于世界末日。的文章。
文奇写道：“三十年内，我们将拥有创造超智能的技术手段。”“之后不久，人类时代将终结。”
当时，文奇身兼二职，既是圣迭戈州立大学的计算机科学家，也是一位备受赞誉的科幻作家（尽管他的雨果奖后来才获得）。后一点很重要。因为这篇论文是为NASA研讨会撰写的，读起来就像是引人入胜的科幻小说和世俗预言的精彩结合。
“即将到来的技术奇点”概述了一场即将到来的审判，届时处理能力的飞速提升将超越人工智能——拥有人类认知和感知能力的系统——并产生超智能机器。
这就是文奇称之为奇点的事物，我们共同的未来将因技术的飞速发展而发生彻底、不可知的转变。奇点——文奇对此进行了深入探讨，并谦虚地归功于开创性的数学家约翰·冯·诺依曼——是未来主义者 Equivalent of a black hole，它描述了进步本身如何不断加速，在接近机器超智能的黎明时速度越来越快。一旦人工智能（AI）实现，全球的转变可能需要数年，甚至仅仅数小时。值得注意的是，文奇引用了格雷格·贝尔的一篇科幻短篇小说作为后一种结果的例子，就像一位先知用经文中的段落来支持他即将到来的末世论论点一样。
但这里的重点很简单——奇点将通过惯性到来。智能AI将产生天才AI，经过网络增强的后人类将形成庞大的蜂巢思维，而这些伟大的数字力量不仅将学习和共享所有可用的数据，还将重新定义信息如何被学习和共享。文奇写道：“人类的物理灭绝是一种可能性”，尽管他也为“仁慈的神”所统治的未来留有余地。他描绘了各种生动的选择，讨论了数字永生的心理陷阱（引用了另一篇科幻故事，这是拉里·尼文的作品），以及互联网突然觉醒为集体、噩梦般的感知能力的前景。无论结果如何，我们所知的世界都将终结。
要相信奇点，你必须相信科幻小说中流传最广的迷思之一——机器人很聪明。
奇点最紧迫的特点是其近期的确定性。文奇认为它将在2023年出现，最迟不超过2030年。雷·库兹韦尔（Ray Kurzweil），一位成就卓著的未来学家、作家（他2006年的著作《奇点临近》使该理论广为人知）以及近期被谷歌聘用的专家，将2029年定为计算机达到并超越人类智能的年份。取决于你同意哪位名人的观点，这意味着人类只有9到16年的时间，之后机器神灵的万神殿将决定如何处置我们。
如果你想知道为什么人类对即将到来的不相关性消息如此平静地接受，那么这可能是因为该物种 simplemente 处于否认状态。也许我们不愿意接受文奇、库兹韦尔和其他聪明人所宣扬的严酷真相。
然而，另一种否认同样可能。也许当权者根本不在乎奇点，因为他们认识到它只是科幻小说。这是一个由科幻作家提出的理论。它的影响被包裹在科幻的意象和语言中。要相信奇点，你必须相信科幻小说中流传最广的迷思之一——机器人很聪明，并且一直处于超越我们的边缘。
60多年的AI研究表明情况并非如此。这就是为什么奇点只不过是书呆子的“被提”。
* * *
尽管科幻作家对细节一丝不苟，但他们在机器感知诞生时却奇怪地选择回避。
以维诺·文奇1981年的中篇小说《真名》及其充满权力的AI反派为例。它被称为“邮递员”，因为它与其它近未来黑客的互动方式类似于电子邮件（它最初伪装成其中一员），需要一天或更长时间来精心制作一个回复。当这个贪婪的软件最终在网络空间中与一小群黑客战斗时，文奇的描述绵延数页，双方都劫持了整个联网的全球总处理能力，给网络造成大范围中断和市场崩溃。
然而，“邮递员”——世界上第一个真正具有自我意识的计算机系统——的起源被 relegado 到小说最后一幕的几段文字中。该AI是NSA在十年前创建的，它是一个无意识的安全程序，一个自动化的沉睡特工，旨在驻留在给定的计算机网络中，逐渐收集数据和意识。政府终止了该项目，但意外地留下了一段代码。正如一位黑客解释的那样，“这些年来，它慢慢地成长——既是因为它的天性，也是因为它所处的网络的强大程度。”
就这样。AI领域的最大成就竟然是意外发生的，而且无人察觉。
为了公平起见，文奇的这一手法在机器人科幻中非常常见。在1970年的电影《巨神兵：福宾计划》以及其改编的1966年小说中，真正的AI是两个接近AI的系统相遇的自发副产品。Colossus，一个负责美国核武库的自动化防御系统，开始与苏联的对应系统Guardian共享信息。但无论这两个程序说什么，观众都从未见过或听到过，人类角色也一样。系统融合，并在几分钟内成为一个单一的、全知的实体。Skynet，Colossus的精神继承者也一样。在1984年的《终结者》中，我们得知那个种族灭绝的军事系统只是“变得聪明了”。事情就这样结案了。1991年的续集增加了一些细节，规定Skynet在启动约25天后就有了自我意识。后来，影响较小的《终结者》续集对该系统的突然崛起进行了详细阐述，并证明从叙事角度来看，有些反派最好还是留在阴影中。但前两部电影决心回避机器感知的虚构机制。
然而，在所有这些故事中，信息都是相同的：AI的到来是注定的。逻辑要求如此，基于一个简单、不可辩驳的观察，即计算机的改进速度非常快。凭借如此大的动量，自动化系统必然会一头扎进感知领域。这是一个如此确定的结论，以至于任何粗略的网络搜索都会从非虚构的AI研究人员那里得到一系列类似的说法。
不幸的是，同样的结果也揭示了AI研究人员在预测未来方面有多么糟糕。最糟糕的罪魁祸首是该领域的两位巨头。1957年，计算机科学家、未来的诺贝尔奖得主赫伯特·西蒙预测，到1967年，心理学将成为一个基本被计算机化的领域，并且计算机将击败真人国际象棋世界冠军。他在后者上的预测晚了30年，而前者在1957年与今天一样令人费解。但西蒙状态正佳，并在1965年宣布，“机器将在20年内能够做人类能做的任何工作。”
麻省理工学院人工智能实验室的联合创始人马文·明斯基（Marvin Minsky）对通用人工智能（AGI）——AI研究中最常见的术语，指人类水平的机器智能——的看法更为乐观。1970年，明斯基估计其到来只需三到八年。
请放心，AGI并未在1978年或1985年秘密出现，并开始以TB为单位吞噬数据。但这并没有阻止文奇和库兹韦尔等人发布自己的截止日期。这也没有完全揭示奇点是AI研究数十年来资金枯竭的无限、未经证实的乐观主义的重述（巧合的是，这始于明斯基1970年预测之后不久）。就像《终结者》中的角色陷入时间循环一样，我们似乎注定要重复同样的预言和尴尬的循环，并重复西蒙和明斯基的中心错误。
要认为AGI不可避免，你必须像科幻小说那样，将机器人想象成即将到来的、可怕的或神圣的超级天才，而人类则是一群笨蛋。
* * *
如果你是奇点的真正信徒之一，你可能掌握着大量从AI研究和神经科学交叉领域借用的术语。像所有伟大的预言语言一样，这些词语能点燃人的思想，即使没有详细的阐述。神经网络。神经形态系统。计算机的大脑就像我们自己的大脑一样运作，而且在某种程度上，它们已经这样运作了几十年。也有一些有前途的现实项目可以引用，例如欧盟耗资13亿美元的“人脑计划”，其宏伟目标包括创建生物大脑的完整数字模拟，并利用该模型驱动物理机器人。当然，奇点近在眼前。
但少数例外情况除外，通往机器超智能的道路直接穿过人类大脑。任何声称理解生物智能的人都是傻瓜，或者骗子。
神经科学在直接观察大脑方面取得了巨大进展，并将电活动和神经化学活动与某些行为联系起来。但我们越深入地观察大脑，其结构和模式就显得越复杂。人脑计划和美国BRAIN倡议项目的目的是解决这样一个事实：我们对人类思考的原因和方式知之甚少。这些项目不是战胜我们生物学的标志，也不是终点临近的迹象。它们是谦逊的承认。
与此同时，奇点的支持者仍然认为智能可以通过纯粹的处理能力被强行创造出来。更不用说西蒙和明斯基也这么想，并且被证明完全、令人尴尬地错了，或者这种方法奏效的唯一证据根本不是证据，而是科幻小说。在那些故事中，AGI如此可行，以至于它几乎是自己想要出现的。
“任何做过真正科学研究的人，无论是实验室的台面科学还是编程，都知道这不像你点击编译，然后你的程序突然完美运行，并自我引导到神性，”拉梅兹·纳姆（Ramez Naam）说，他是一位科幻作家、技术专家、AI专利持有人，并且讽刺的是，是奇点大学的讲师。尽管纳姆自己的小说包括人类意识的网络化和上传，但他已经成为奇点最直言不讳的批评者之一。他认为，该理论对AGI必然性的假设与我们最过时的AI期望没有什么不同。
纳姆说：“如果你问一个人，50年前，第一台能击败人类下棋的计算机是什么样的，他们会想象一个通用AI。”“那将是一个有意识的AI，它也能写诗，并有对与错的概念。但它不是。一点也不像。”尽管IBM的“深蓝”在1997年击败了加里·卡斯帕罗夫，但它离意识的距离并不比ThinkPad笔记本电脑近。纳姆说，尽管IBM的“沃森”在《危险边缘》节目中表现出色，“但它不会下棋，也不能驾驶谷歌的任何一辆自动驾驶汽车。“我们根本没有朝着通用AI发展。我们只是在构建越来越好的专用系统。”
即使你笨拙地将各种专用系统组合在一起，它们也不会加起来构成AGI。实际上，这可能在科幻小说中行得通，在科幻小说中，AGI似乎遵循与好莱坞版黑客相同的过于简化的规则，能够忽视编程语言和数据协议的巨大差异，并开始像某种巫师的神秘、无限资源一样窃取和运用信息。假设你可以将一组智能机器统一成一个系统，它仍然不会神奇地产生创造性的、适应性的认知，或学习（而不是记忆）的能力。尽管人类智能尚未被量化，但我们至少知道它是深刻非线性的。突触活动可以跨越大脑 vast、看似无关的区域流动，牺牲速度和效率来换取循环的、自由的灵活性。我们的记忆是可塑的、不完整的，与编码或机械世界中的任何东西都不同。这些是设计缺陷，等待被修复吗？还是它们是特征，证明智能是一个我们仍然没有工具来正确打开的黑箱？这些问题仍然需要回答，然后任何人才能做出第一次、原始的从零开始构建AGI的尝试，或以某种方式将人类和机器融合，形成一个等同于它的混合体。
我并不是说机器感知是不可能的。在突破发生之前，不能忽视它们可能凭空出现。但对奇点的信仰应该被认识到它是什么——一个世俗的、基于科幻的信仰体系。我不是在故弄玄虚，将它与预言和科幻小说相提并论。缺乏机器智能爆炸的证据，并且故意忽视已经过去又消失的AGI截止日期，奇点反而依赖于“手势”。这是科幻小说中对未经说明的技术飞跃的说法。不过，这种捷径还有另一个名字。它叫做信仰。
