快语锐言 当我们站在一个新世界的入口

史蒂芬·威廉·霍金

在我的一生中，见证了很多社会深刻的变化。其中最深刻，同时也是对人类影响与日俱增的变化就是人工智能的崛起。简单来说，我认为强大的人工智能的崛起，要么是人类历史上最好的事，要么是最糟的。是好是坏，我们依然不能确定。人工智能的发展，本身是一种存在着问题的趋势，我们应该竭尽所能，确保其未来发展对我们的后代和环境有利。

也许我们的科学研究应暂停片刻

人工智能的研究与开发正在迅速推进。也许科学研究应该暂停片刻，从而使研究重点从提升人工智能的能力转移到最大化人工智能的社会效益上面。

文明所产生的一切都是人类智能的产物，但是现在“计算机在理论上可以模仿人类智能，然后超越”这一原则正在被人们所接受。但我们并不确定，我们将无限地得到人工智能的帮助，还是被藐视并被边缘化，甚至很可能被它毁灭。至少现在，聪明的机器正在代替人类所从事的工作，并迅速地消灭数以百万计的工作岗位。

在人工智能从原始形态不断发展，并被证明非常有用的同时，我也在担忧这个结果，即创造一个可以等同或超越人类智能的人工智能，人工智能一旦脱离束缚，将以不断加速的状态重新设计自身。未来，人工智能可以发展出自我意志，一个与我们冲突的意志，人类由于受到漫长的生物进化的限制，无法与之竞争，将被取代。

很多人认为人类可以在相当长的时间里控制技术的发展，这样我们就能看到人工智能可以解决世界上大部分问题的潜力。但我并不确定，尽管我对人类一贯持有乐观的态度。

要保证创造出可控的人工智能

2015年1月份，我和科技企业家埃隆·马斯克，以及许多其他的人工智能专家签署了一份关于人工智能的公开信。目的是提倡就人工智能对社会所造成的影响，做认真的调研。

在这之前，埃隆·马斯克就警告过人们：超人类人工智能可能带来不可估量的利益。但如果部署不当，则可能给人类带来相反的效果。对于决策者和普通大众来说，这封公开信内容翔实，并非危言耸听。人工智能具有根除疾患和贫困的潜力，但是研究人员必须能够保证创造出可控的人工智能。

那封公开信只有四段文字，题目为《应优先研究强大而有益的人工智能》，在其附带的十二页文件中，对研究的优先次序作了详细安排。

智能是一个与统计学和经济学相关的理性概念。通俗地讲，这是一种能做出好的决定、计划和推论的能力，大量的整合和交叉成果被应用在人工智能、机器学习、统计学、控制论、神经科学以及其他领域。共享理论框架的建立，结合数据的供应和处理能力，在各种细分的领域取得了显著的成功，例如语音识别、图像分类、自动驾驶、机器翻译、步态运动和问答系统。

随着这些领域的发展，从实验室研究到有经济价值的技术形成了良性循环。哪怕很小的性能改进，都会带来巨大的经济效益，进而鼓励更长期、更伟大的投入和研究。人工智能的研究正在稳步发展，而它对社会的影响很可能还在扩大，我们无法预测我们会取得什么成果，这种成果可能是被人工智能工具放大过的。

正如我说的，根除疾病和贫穷并非完全不可能，由于人工智能的巨大潜力，研究如何规避风险是非常重要的。

秉持乐观态度对潜在灾难有所认识

关于人工智能的研究正在迅速发展，这一研究可以从短期和长期来分别讨论。

短期担忧：

1.无人驾驶。从民用无人机到自主驾驶汽车。在紧急情况下，一辆无人驾驶汽车不得不在小风险的大事故和大概率的小事故之间进行选择。

2.致命性智能自主武器。它们是否该被禁止？如果是，那么“自主”该如何精确定义。如果不是，任何使用不当和故障的过失应该如何被问责？

3.隐私的担忧。由于人工智能逐渐开始解读大量监控数据，会造成隐私上的担忧，以及如何管理因人工智能取代工作岗位带来的经济影响。

长期担忧主要是人工智能系统失控的潜在风险。随着不遵循人类意愿行事的超级智能的崛起，强大的系统可能会威胁到人类发展。这种错位是否会发生？如果会，那些情况是如何出现的？我们应该投入什么样的研究，以便更好地理解和解决危险的超级智能崛起的可能性，或智能爆发的出现？

当前控制人工智能技术的工具，例如强化学习，简单实用的功能，还不足以解决这些系统失控的问题。因此，我们需要进一步研究来找到和确认一个可靠的解决办法来掌控这一问题。

近来的里程碑，比如之前提到的自主驾驶汽车，以及人工智能赢得围棋比赛，都是未来趋势的迹象，巨大的投入倾注到这项科技。我们目前所取得的成就，和未来几十年后可能取得的成就相比必然相形见绌。而且我们远不能预测我们能取得什么成就。当我们的头脑被人工智能放大以后，也许在这种新技术革命的辅助下，我们可以解决一些工业化对自然界造成的损害。关乎到我们生活的各个方面都即将被改变。

简而言之，人工智能的成功有可能是人类文明史上最大的事件。但人工智能也有可能是人类文明史的终结，除非我们学会如何避免危险。我曾经说过，人工智能的全方位发展可能招致人类的灭亡，比如最大化使用智能性自主武器。

去年10月，我在英国剑桥建立了一个新的机构，试图解决一些在人工智能研究快速发展中出现的尚无定论的问题，致力于研究智能的未来，这对我们文明和物种的未来至关重要。我们对潜在危险有所意识，我内心仍秉持乐观态度，我相信创造智能的潜在收益是巨大的。也许借助这项新技术革命的工具，我们将可以削减工业化对自然界造成的伤害。

每个机器人设计都应包含终止开关

人工智能的最新进展，包括欧洲议会呼吁起草一系列法规，以管理机器人和人工智能的创新。令人些许惊讶的是，这里涉及了一种形式的电子人格。以确保最有能力和最先进的人工智能尽到其应尽的权利和责任。

欧洲议会发言人评论说，随着日常生活中越来越多的领域日益受到机器人的影响，我们需要确保机器人无论现在还是将来，都为人类而服务。向欧洲议会议员提交的报告，明确认为世界正处于新的工业机器人革命的前沿。报告中分析了是否应该给机器人提供作为电子人的权利，这等同于法人身份。

报告强调，在任何时候，研究和设计人员都应确保每一个机器人设计都包含有终止开关。在库布里克的电影《2001太空漫游》中，出故障的超级电脑哈尔没有让科学家们进入太空舱，但那是科幻，我们要面对的则是事实。

报告承认在几十年的时间内，人工智能可能会超越人类智力范围，进而挑战人机关系。

在人工智能发展进程中，我们还应该扮演一个角色，确保下一代不仅仅有机会还要有决心。在早期阶段充分参与科学研究，以便他们继续发挥潜力，帮助人类创造一个更加美好的世界。这就是我刚谈到学习和教育的重要性时所要表达的意思。我们需要跳出“事情应该如何”这样的理论探讨，并且采取行动，以确保他们有机会参与进来。

我们站在一个美丽新世界的入口。这是一个令人兴奋的、同时充满了不确定性的世界，而你们是先行者。我祝福你们。

（摘自《新华日报》2017年5月23日）

新闻推荐

给特雷莎·梅“拆台”？英国工党愿建少数派政府

在英国议会选举中“豪赌”失败的英国首相特雷莎·梅9日在唐宁街宣布，将与民主统一党组建联合政府。与此同时，选情“超预期”的最大反对党工党当天表示，他们才是“真正赢家”，已经做好建立少数派政府...