从本质上说，人类水平人工智能的广泛出现，实现了我在前面的章节中描述的“外星人来袭”的思维实验。机器不只主要威胁到相对常规、重复性或可预见的工作，它现在几乎能够做到一切。当然，这意味着几乎没有人将能从工作中获得收入。

　　超级智能和奇点

　　2014年5月，剑桥大学物理学家史蒂芬·霍金写了一篇文章，发出了人工智能迅速发展的危险警报。在英国的《独立报》(The Independent)上，霍金以及其他的合著者，包括麻省理工学院的两位物理学家马克斯·泰格马克(Max Tegmark)和诺贝尔奖获得者弗兰克·维尔切克(Frank Wilczek)，以及加州大学伯克利分校的计算机科学家斯图尔特·罗素(Stuart Russell)，一起写文章警告说，创建一台真正能思考的机器“将是人类历史上最大的事件。”一台超出人类智力水平的计算机可能会“超越金融市场，超越人类研究者的发明，超越有控制能力的人类领导者，研发出一些我们甚至无法理解的武器。”把这一切视为科幻小说则“有可能是我们历史上最糟糕的错误。”

　　到目前为止，我所描述的技术，比如能搬箱子或做汉堡的机器人，能创造音乐、写报告，或在华尔街交易的算法，都可以归类为专业或“弱”人工智能。即使是IBM的沃森，这个迄今为止机器智能最成功的示范，都远比不上一般的人类智能。事实上，在科幻小说的领域之外，所有的功能性人工智能技术其实都是弱人工智能。

　　然而，我在这里提出的其中一个主要观点是，现实世界人工智能的专业化性质并不一定会阻碍很多工作最终实现自动化。大部分劳动力从事的工作任务在一定程度上是常规和可预见的。我们已经看到，迅速提高的专业机器人或依据大量数据的机器学习算法，最终将对各种技能水平的职业构成威胁，这一切都不需要机器能像人一样思考。计算机要取代你的工作并不需要复制你所有的智力，它只需要完成你为获得报酬所做的具体事情就好。事实上，大多数人工智能的研发，以及几乎所有的风险投资，都继续把重点放在专门的应用程序上，而我们有充分的理由相信，在未来几年甚至几十年，这些技术会变得更加强大和灵活。

　　虽然这些专业化技术继续产出实用的成果并能吸引投资，但一个更为严峻的挑战潜伏在后面。建立一个真正的智能系统，一台可以构思新想法，可以意识到自己的存在，可以进行连贯对话的机器仍然是人工智能所追求的“圣杯”。

　　对创造一台真正能思考的机器的着迷至少可以追溯到1950年，当时阿兰·图灵(Alan Turing)发表了一篇论文，开启了人工智能时代。在随后的几十年中，人工智能的研究经历了繁荣与萧条的周期循环，人们对它的期望一再飙升，不考虑任何实际的技术基础，特别是当时的计算机速度。当失望在所难免时，投资和研究活动迅速减少，而称为“人工智能寒冬”的长期停滞也接踵而至。不过，春天已经再次来到了。今天计算机的超凡力量，以及人工智能研究在特定领域的进步，还有我们对人类大脑的理解，这些结合在一起，使得形势极为乐观。

　　最近一本关于高级人工智能影响的书的作者詹姆斯·巴拉特(James Barrat)，对200名人类水平而非弱人工智能研究人员做了一次非正式调查。在这个领域内，人类水平的人工智能被称为“强人工智能”(Artificial General Intelligence)。巴拉特让计算机科学家们在强人工智能何时实现的四个预测时间中做出选择。结果是：42%的人认为能思考的机器将在2030年前创造出来，25%的人选择在2050年前，10%的人认为2100年之前不会发生，只有2%的人认为永远不会发生。值得注意的是，一些受访者在对他们的调查写评论时表示，巴拉特应该加进一个更早的选项——或许是2020年。

　　该领域的一些专家担心可能又会形成期望的泡沫。在2013年10月的博客文章中，脸书新成立的人工智能研究实验室主任雅恩·乐昆(Yann LeCun)警告说，“因为炒作，人工智能50年里‘死’了4次：人们夸下海口(通常是为了打动潜在的投资者或投资机构)，却无法拿出成果。结果就造成了激烈的对抗反应。” 同样，纽约大学教授、认知科学专家和《纽约客》博主加里·马库斯(Gary Marcus)称，深度学习神经网络领域里近期的突破，以及IBM沃森的部分能力，已经明显被过度炒作。

　　不过，似乎很明显，该领域已经获得了强劲的动力。特别是像谷歌、脸书、亚马逊等企业的崛起带来了巨大的进步。以前从未有这样财大气粗的企业将人工智能放在业务模式的绝对核心地位，也从未有过人工智能研究在如此强大的企业之间被几乎定位成了竞争的焦点。类似的竞争也在国家之间展开。人工智能在集权国家的军队、情报机构和监视机构中正变得不可或缺。*事实上，一场由人工智能全面支持的军备竞赛很可能正在不久的将来酝酿。我想，真正的问题，不是这个领域整体会不会真正面临人工智能寒冬的危险，而是进步是只局限在弱人工智能领域，还是最终也能扩展到强人工智能领域。

　　如果人工智能研究人员最终设法跨越实现了强人工智能，那结果应该不是一台仅能匹敌人类智力水平的机器。一旦实现了强人工智能，单靠摩尔定律就可以迅速创造出一台超出人类智力的计算机。当然，一台能思考的机器仍将拥有计算机目前具有的优势，包括计算能力，还有我们无法理解的信息访问速度等。不可避免的是，我们很快就要与一种前所未有的东西共享这个星球：一种真正不可思议和超群的才智。

　　这很可能只是一个开始。人工智能研究人员一般都相信，这样的系统最终会被用来引导自己的智力发展。它会专注于提高自己的设计，重新改写自身软件，或者使用进化规划技术来创建、测试和优化改进其设计。这将带来“循环改进”似的迭代过程。每次修改后，系统都将变得更聪明、更能干。随着循环不断加快，最终的结果将产生“智能爆炸”，很可能最终生产出一台比任何人类都聪明十万甚至上百万倍的机器。像霍金和其他作者说的，这“将是人类历史上最大的事件。”