人工智能是一种用来造福人类的工具

加拿大计算机科学家约书亚·本吉奥（Yoshua Bengio）出生于法国巴黎，他被认为是目前世界上人工神经网络（Artificial Neural Network）和深度学习（Deep Learning）领域最杰出的学者之一。1993年，本吉奥于蒙特利尔大学参与创建了蒙特利尔学习算法研究所（Mila-Quebec AI Institute），希望把科学家们聚集在一起进行人工智能研究，营造一个良好的生态环境。

2018年，本吉奥与杰弗里·辛顿（Geoffrey Hinton）、杨立昆（Yann LeCun）共同获得了计算机研究领域的最高荣誉图灵奖。针对人工智能研究的一些基本理念、它的现状与未来，以及大众对于人工智能的理解等问题，本吉奥通过邮件接受了本刊的专访。

三联生活周刊：你的弟弟萨米·本吉奥（Samy Bengio）同样也是一位世界一流的计算机科学家。你的家庭和教育环境是如何影响你们兄弟俩的职业路径的？

本吉奥：我们的父母给了我们很多的自由和自信，引导我们对科学产生兴趣，并且尊重我们的直觉。我们兄弟俩在青春期时代就喜欢一起玩电脑，在这方面我们可能起到了相互促进的作用。

（注：萨米·本吉奥同样是一位世界著名的人工智能研究专家，他参与创建了著名的“谷歌大脑”深度学习与人工智能研究项目。）

三联生活周刊：你因为“在概念性和工程领域所取得的突破使深度神经网络成为了计算的关键部分”而获得了2018年图灵奖。得奖对你的研究和个人生活产生了什么影响？

本吉奥：获得这么一个了不起的奖增加了我的知名度——不光是同行认识我，现在就连大众也认识了我。这件事本身就令人感慨，但是也导致我总要收到太多的邮件，也总要拒绝很多的请求，这让我感到为难和不舒服。同时我的生活里也有了太多的计划。

三联生活周刊：你会如何向一个没有计算机知识的普通人介绍你的研究课题及其意义呢？要如何解释机器学习（Machine Learning）、深度学习和神经网络（Neural Network）三者之间的关系？

本吉奥：我的研究目标是发现人类具有智慧的学习能力的基本原则，而这些基本原则有可能被运用到制造更加智慧的机器上。

“机器学习”的目标在于通过探索各种各样的方法以制造出更加智慧的机器。机器可以通过具体的例子、经验或者数据进行学习。“神经网络”是受神经科学研究启发而得以发明的一种机器学习方法。“深度学习”则是神经网络的一种现代形式，是一种更为复杂的学习系统，也被称为“深度神经网络”（Deep Neural Networks），因为其中含有多个层级（Layer）的神经元。当一个层级的神经元完成计算之后，会把计算结果输送给下一个层级。

三联生活周刊：对于人类来说，“学习”大体上意味着熟记规则，获取信息和经验。相比之下，你如何定义机器学习？人类学习和机器学习的区别在哪里？

本吉奥：人类可以通过记忆来学习，但实际上表现得并不算太好，要比机器的内存差很多。实际上，人类对于一种学习方法非常擅长，那就是给人提供一种理解，让人可以对一些新问题进行解答，并且逐渐习惯于快速解决新出现的问题。目前机器在这种对于问题的一般化处理方面还不如人类。（让机器在这方面表现得更好）这也是人工智能研究者的一个目标。

三联生活周刊：你是蒙特利尔学习算法研究所的创建人之一。这个研究所看起来更像是一个科学家和实验室的合作组织。你能介绍一下创建这个研究所的目的吗？在一家像Facebook这样的商业公司进行研究和在蒙特利尔学习算法研究所进行研究的区别是什么？你为什么一直坚持留在学术界，拒绝进入工业界做研究？

本吉奥：蒙特利尔学习算法研究所是一个学术研究所，主要由政府和它所属的蒙特利尔大学资助。研究所的目标就是推动机器学习研究的发展，训练众多有天分的科学家造福社会，改进人工智能研究生态，并且在人工智能领域进行负责任的开发工作，关注一些政府投资的重点领域，例如卫生保健和环境保护等等。我就是怀着以上目标创建这家研究所的，并且希望把各个大学中的机器学习专家聚集在一起。现在蒙特利尔学习算法研究所、创业公司、成熟的商业公司和机构，共同形成了蒙特利尔人工智能生态系统的核心。

三联生活周刊：目前有很多文章讨论人工智能研究的不同“趋势”。例如有所谓的“连接主义”（Connectionism）、“符号主义”（Symbolicism）、“行为主义”（Behaviorism）等等。在你看来，哪一种“趋势”或是思想代表了人工智能研究的未来？

本吉奥：研究本身是一个探索的过程，这也就要求对不同的路径都要进行探寻。在蒙特利尔学习算法研究所，我们最擅长的是深度学习（Deep Learning）和强化学习（Reinforcement Learning），这种研究方式所延续的是神经网络研究几十年来的思路，以及连接主义在上世纪八九十年代所产生的一些想法。我的研究兴趣在于，把上世纪符号主义的一些想法聚合在一起，应用到现代深度学习机器中，把符号和意义在感知和行为中联系起来，这样就有可能产生比现有的方式更加灵活、具有推理能力和能对问题进行一般化处理的系统。

三联生活周刊：在人工智能研究之外，你最期待计算机科学还有哪些会令人感到激动，甚至可能改变世界的研究成果？

本吉奥：我认为在模拟电路硬件领域和量子计算机研究领域都有可能出现令人感到激动的研究成果。另外，人工智能也在被越来越多地应用到其他研究领域中。我认为人工智能有可能在生物学研究和制药业产生革命性的影响。

三联生活周刊：在过去几十年时间里，计算机科学的发展超出了人们的想象。计算机变得越来越“智能”。但是对于计算机的发展来说，有没有一些基于物理学或是计算机科学自身的根本性的限制？

本吉奥：这是存在的。在计算机科学领域存在着很多理论性的结果，显示很多有价值的目标在实际中无法达到，因为这需要太长的计算时间。正因如此，我才不相信会存在一种全面的、通用性的智慧形式（通用人工智能，Artificial General Intelligence），要知道人类的智慧是一种非常专门的智慧类型（人类的大脑也并不完美，存在着很多问题）。无论如何，人类的大脑和人类的智慧（以及其他动物所具有的智慧）证明了一点，就是可以制造出至少和我们同样智慧的机器，并且完成任何动物都有可能完成的任务。超出这个范围之外，目前很难弄清楚。

三联生活周刊：你认为人工智能是否应该模仿人类的大脑，并且试着像人类一样思考？

本吉奥：人工智能系统的发展完全不需要模仿人类的大脑。但是人类大脑是非常高效的，表现也远远超出目前的计算机，那么研究者就需要学习人类大脑是如何实现这些认知技巧的，并且试着把这些功能应用到人工智能中，这也正是我们在深度学习领域做的事情。

三联生活周刊：“意识”（Consciousness），在物理学中，尤其是量子力学中有着极其特殊的地位。作为一位人工智能科学家，你如何理解意识的本质呢？

本吉奥：认知科学家、神经科学家和哲学家都花了很长时间来追问意识的本质是什么，对于这个问题，目前科学还无法给出答案。但好消息是，通过观察人类的大脑，尤其是通过对那些有某种感受、做某种思考的大脑进行成像，我们已经发现了很多线索。

我个人的观点是，意识首先是大脑自身的物理性质所产生的一种功能，一种演化出的加强我们认知能力的功能，尽管进行所谓的“自我观察”或是“自省”也可能让我们进行自我欺骗。

我一直在研究意识的一个特殊方面，让我们可以用一种全新的方式运用已有知识，只要有意识地选取已有知识中的一些关键元素，就可以迅速解决某些新出现的问题。在我的研究所里，我们运用伯纳德·巴尔斯（Bernard Baars）、斯坦尼斯·德阿纳（Stanislas Dehaene）等人开发的全局工作空间理论（Global Workspace Theory），使深入学习系统能够对一些新出现的问题进行一般化处理，并且具有一些推理和逻辑认知能力。在意识处理（Conscious Processing）领域，我提出过一个理论，有可能帮助我们处理那些可以用语言来表达的知识。这些模型中并不涉及主观经验的问题，但是我很有信心，通过迈克尔·格拉齐亚诺（Michael Graziano）对于注意力、自我和意识的研究，在未来可以复制这些现象（人的主观经验）。

三联生活周刊：人类大脑的哪些功能是人工智能无法复制或是模仿的？

本吉奥：我不认为人类大脑有任何功能是人工智能无法模仿的。因为我相信我们都是物理存在的实体，我们的大脑依然需要进行计算，因此没有任何理由认为人工开发的系统无法模拟大脑进行计算并最终产生智慧。如果你不同意我的观点，只能说明你认为在人类大脑中有某些神秘的或是超自然的特性。实际上，很多人确实持有这样的观点。但是这与我们对人类大脑和整个宇宙的观察和理解都是相悖的。

三联生活周刊：除了一些“常规功能”之外，人类大脑还有一些看上去不符合逻辑和因果性的功能，例如“直觉”（Intuition）。你认为人工智能有没有可能模仿人类大脑的这种功能？

本吉奥：我要说目前人工智能已经具有直觉功能了，这基本上是由目前的深度学习系统实现的。与人类的直觉相比，这种功能目前仍然只是小规模应用，并且缺失一些因素，但是它与人类的直觉有很多的相似之处。直觉性的反应非常迅速，这需要多年的经验才能发展出来，而且我们无法用语言完整地描绘直觉的特性，可能是因为它的复杂性已经超出了几句话能够表达的含义了。

三联生活周刊：你是否担心过关于人工智能“道德”的发展落后于人工智能自身的发展？我们要如何行动才能保证人工智能不被滥用？

本吉奥：我最大的关注点并不在于人工智能的道德，而在于我们的大众和政府如何形成一种成熟的道德感。在科技（包括人工智能）的帮助之下，我们可以制造出非常强大的工具。但这些工具也有可能被误用，被用来只为极少数的人谋取利益，却与大多数人的利益相悖，甚至可能威胁到民主政体和目前我们所拥有的相对和平。

为了学习能够更明智、更有道德地使用这些工具，我们都需要变得更明智、更有道德，否则，我们中间的一些人可能会利用人工智能造成毁灭性的后果。这也说明我们需要进行社会的转变，保护地球，以确保每个人，包括贫穷的人、处于病痛中的人，都能享受到科技进步带来的好处。我们（研究人工智能）不是为了某一个国家，而是为了全人类，这就需要社会为每个人都提供足够的教育。

三联生活周刊：你认为现在的媒体报道中，对于人工智能最大的误解是什么？人们从人工智能研究中真正应该期盼的又是什么？

本吉奥：目前人们对人工智能的普遍误解主要来自科幻电影对人工智能不现实的，甚至是神话般的描述。当然也有媒体用一些过于夸张的标题来描述人工智能。首先，目前的人工智能仍然显得很愚蠢，对我们的世界理解甚少，甚至不理解人类是什么，对或错是什么，缺乏对真实的物理世界的基本理解。

进一步来说，可能要花费几十年，甚至几百年的时间才能让人工智能达到人类的水平。在目前，我们无法透过种种的不确定性，看到人工智能发展的未来。最后，与其他科学一样，人工智能研究并不是靠一些单独的人，或是几个疯狂的天才就能完成的。科学是由很多的研究小组相互交流，在一种开放的环境中才能进步。我们对其他实验室的研究进展都很了解。我们的工作相互依赖。正是很多的小进步聚合在一起构成了科学的进步。科学只有在彼此分享成果和数据的情况下才能有效地发展，

三联生活周刊：你认为人类与人工智能之间最理想的关系是什么？

本吉奥：人类是工具的制造者，我们制造工具是为了帮助自己，让我们的生活变得更好。人工智能也不例外，是一种我们可以设计用来造福人类的工具。人类可能会愚蠢地制造核灾难，但是我们当然希望人类可以做出更理智的选择。同样地，我们必须设计出为全人类服务的人工智能，而不是一种用来相互攻击的武器。这个选择就在我们的手中。我们已经对生物技术做出了种种道德上的规范，我们也必须对人工智能做出种种规范，以确保它能被有道德地、负责任地开发和使用。 人工智能神经网络机器学习三联生活周刊深度学习