在一个世纪内，发生大型小行星碰撞地球的几率可能仅为15000。而在通用人工智能方面，下个世纪中发生灾难的几率可能高达1100，甚至110。

近期，人工智能领域的各项进展堪称一日千里。对此有种世界末日论，说人工智能驱动的机器将智胜人类，接管整个世界并杀死所有人。

这种描写常见于科幻小说中，但也经常被否定，因为人类仍然牢牢掌控着局面。但许多人工智能专家则非常严肃地看待这一末日前景，这种态度是完全有必要的。

为了解风险究竟在哪里，就要去理解“弱人工智能”(narrow AI)和“通用人工智能”(Artificial General Intelligence)的区别。弱人工智能一次只能在一个或几个领域运作，因此虽然它可能在某些特定任务中胜过人类，但仍然处于人类控制之下。

相比之下，通用人工智能可以跨越多个领域进行思考，因此可以在复制许多人类智力技能的同时，保留计算机的所有优点，比如完美的记忆力。借助精密复杂的计算机硬件，通用人工智能可能会超出人类的认知。事实上，通用人工智能的发展似乎是无上限的。

就目前而言，大多数人工智能都是弱人工智能。事实上，即使是目前最先进的系统也只具备有限的通用性。

许多知识渊博的人，对高级通用人工智能的前景不屑一顾。其他人则认为比肩人类的人工智能在遥远的未来可能实现，但现在开始为之担忧还为时过早。也有一批杰出学者担心，通用人工智能会对人类构成严重甚至事关种族存续的威胁。由于辩论双方都有庞大的专家团支持，因此我们其他人应该对此保持开放的态度，不必提前站队。

此外，通用人工智能已经成为大型研发项目的重点。我最近完成了对通用人工智能研发项目的调研，涵盖六大洲30个国家中的45个项目。许多研究项目都由百度、脸书、谷歌、微软、腾讯等大型企业以及卡内基梅隆大学、哈佛大学，斯坦福大学以及中国科学院等一流大学来执行。如果简单地假设这些项目都会失败，显然是不智的。

考量通用人工智能潜在威胁的另一种方法，则是将其与其他灾难性风险进行比较。在1990年代，美国国会认为应当指示美国宇航局去追踪那些可能碰撞地球的大型小行星，即便在一个世纪内发生这种情况的几率仅为15000。在通用人工智能方面，根据研发速度以及专家关注度的强弱，在下个世纪中发生灾难的几率可能高达1100，甚至110。

那么问题就在于如何应对。首先，我们需要确保这类研发都是以负责任、安全和有道德的方式来进行。这需要那些在人工智能领域工作的人，与政策制定者、社会科学家和关注这个问题的民众进行更深入的对话。那些人工智能应用程序的开发者们，大多不习惯于考虑自身工作的社会影响。为了改变这一点，就必须将他们暴露于外部视角之下。

政策制定者们还将不得不面对通用人工智能的国际属性。目前大部分相关研发都在美国、欧洲和中国进行，但大部分代码都是开源的，这意味着这项工作可能在任何地方完成。因此，尽管某些区域研发中心应该在建立标准和道德基础规则方面起主导作用，但这最终会是整个国际社会的工作。

展望未来，解决通用人工智能所引发风险的一些努力，可以搭载在一些业已实施的针对弱人工智能的政策举措之上。例如由马里兰州民主党众议员约翰·德莱尼发起的新两党人工智能小组会议。而在研究短期和长期人工智能风险的人们之间，也存在着更多协同合作的机会。

无论弱人工智能和通用人工智能是合并还是分开考虑，最重要的是我们现在得采取建设性行动以尽量减少发生灾难性事件的风险。不然等到风险真正来临时，一切就太迟了。