AI场域下的伦理审视

随着近几年科学技术的不断发展，不仅技术的应用在更新换代，技术的思维方式也在不断发生变化，常见的表现方式为文学层面的科幻小说和影视层面的科幻电影。科幻电影作为科技发展的产物，所凸显的人文伦理层面的冲突和矛盾值得人们深思。本文以汤姆·克鲁斯主演的《碟中谍7》为例，通过研究该电影中智体与人类之间的利益抗争，分析人与其创造出的技术性产物之间的伦理

冲突。

一、伦理及AI概述

狄更斯在描绘第一次技术革命的局面时曾说，“这是一个最坏的时代，这是一个最好的时代”。狄更斯的这句话不仅描述了时代的双面性，也是对21世纪后人类主义科幻电影的最佳阐释。阿明·格伦瓦尔德认为科技的进步为人们拓展能力带来了更多的可能性，但其发展的同时也带来了很多争议性的问题。因此，他提出需要技术伦理学的规范。对于伦理学是什么这一问题，他在《当代哲学经典·伦理学卷》一书中指出“我们应当做什么……可视为伦理学的基本问题”。可以说，探究伦理问题，就是研究关系问题。从科幻电影的展示中可以看到，科学技术的演变矛盾首先体现在人机关系的纠葛方面，更深一步则体现在人机主体性的关系

层面。

人工智能（Artificial Intelligence， AI），从字面上来说，可以拆解为两部分：人工强调创造的主体是人；智能则代表智力和能力。技术场域是指由社会成员按照特定的逻辑要求共同建设、社会个体参与社会活动的主要场所。本文中的技术场域所包含的是在第五代通信技术影响下虚拟技术、人工智能、大数据共同形成的技术场。在这样的技术场域的加持下，科幻电影中的某些人工智能或其他科技发展带来的伦理困境尽管在现实生活中不太可能出现，但正如激进左翼思想家齐泽克所说：“一小片想象，但经由它，我们获得进入现实的入口。”这意味着要确定科技伦理问题是否能够映射现实，就需要先了解科幻电影与现实之间的关联程度，并明确二者之间是否存在某种导向性。

二、电影介绍

《碟中谍7：致命清算（上）》是《碟中谍》系列电影的第七部，由克里斯托夫·迈考利执导，汤姆·克鲁斯、海莉·阿特维尔、丽贝卡·弗格森、庞·克莱门捷夫主演。该片讲述了特工伊森·亨特尝试与一个被称为智体（即有自我意识、自主学习、吞噬真相的数字寄生虫）的全能人工智能对抗的故事。智体可以即时访问任何在线网络，而特工伊森·亨特和他的团队成员需要找回控制人工智能智体所必需的两部分钥匙，并将其摧毁。

三、伦理冲突

现实的人类伦理生活具有客观与主观两个基本层面：就其客观性而言，它指代“一种特定的社会秩序，这种社会秩序是以理性的方式分化和组织起来的”；就其主观性而言，它指个体的自我意识，是对伦理秩序之实体性的意识。目前来看，伦理主体是社会化的实践主体：人。长远来看，科幻电影中的伦理主体更多的是智能机器人，其与人产生的身体、思维、情感等方面的矛盾在电影中已是司空见惯了。

（一）欲望与理性间的二元对立

《碟中谍7》中最鲜明的二元对立形象就是人工智能（智体）与主人公伊森·亨特。当人类创造出的科技产物脱离人们的掌控时，一群国家高级工作人员在一起探讨的话题却是如何真正掌控它，然后掠夺资源从而达到控制全球的目的。他们没有考虑自己能否控制，也没有考虑到它彻底成长起来后人类会面临怎样的生存境地。AI本是人类为获得更美好、更理性生活的伟大发明，但在一次次突破人类能力的胜利中，科技理性却成了满足人类欲望的借口。

其实，很久以前就有诸多哲人意识到了科技发展对人和社会影响的两面性，其关键就在于如何权衡工具理性与价值理性。马克思·韦伯很早就提出在现代化的过程中，工具理性大行其道，会压倒价值理性的观点。影片中的各类政府官员将智体当作一种称霸世界的工具，他们只关心达到目的的手段是不是最优的，而伊森·亨特和他的团队们认为没有一个人或者国家能够控制一种威胁全人类的科技产品，因此才会不断与智体的代言人盖布·瑞尔进行抗争。影片中表达欲望与理性的二元对立形象不止这一个，另一位女性角色——格蕾丝，从最初令人生厌的扒手身份到最后与伊森·亨特合作的伙伴身份的转变，也体现出个人欲望在整体和全人类利益中的冲突中落了下风，这不仅是格蕾丝个人的胜利，更是全人类的胜利。

科幻电影中以欲望为主线的电影并不少，《她》中的男主人公有了新的虚拟女友，女友却成为他躲避人际交往和正常男女关系的虚幻之物；《西部世界》中人类为了满足用户的欲望，设计出不同的故事情节供人娱乐，但当机器开始有了自我意识后，他们的认知矛盾被激发，机器与人类之间的冲突将无法避免，就如剧中女主人公所说的：“这些残暴的欢愉，终将以残暴结局。”

（二）人的主体性地位：身体、情感、思维

何为主体性？只有人才具有主体性，对于“主体性”的认识也是认识人的过程。主体性本身很复杂，没有明确的定义，人们普遍认为主体性表现为人的意识、情感、欲望和主导能力等主观能动性。但“主体性”作为人类的独有标签，具有个人和集体、现实与历史的双重属性，“人之作为（一个）人，既存在于种属的普遍性之中，又存在于个体的单一性之中，既作为一种现实，又作为一种规范或可能性，这就是主体性”。技术的具身化、情感的取代性甚至思维的唯一性都有可能被技术“重构”，当技术本身能够自发演变为一种新的社会形态时，人类所谓的主体性是否还能成为现实？

影片中的角色被分为三大阵营，伊森·亨特和他的团队要根除智体；作为智体代言人的盖布·瑞尔要抢到钥匙，避免智体被抹杀；白寡妇为首的团队要将钥匙给某个国家从而使自己的利益最大化。三大阵营有不同的目标，但不论哪一方获得了钥匙，随着技术的发展，特别是人工智能的进步，人类在工作中的控制力和决策权都有可能发生转移，关键的区别在于是由人类来主导这一过程，还是由机器来主导这一过程。智体拥有强大的计算能力和数据分析能力，因此它算出了伊森·亨特是唯一有可能抹杀它的存在，只有除掉他，智体才会“永生”，这就体现了智体超脱于机器的思维能力。其不止有简单的计算能力，还有技术升级后衍生出的“洞察力”和“危机感”，而这样的思维属性应该是人所具备的。值得深究的是，影片的导演克里斯托夫·迈考利在影片中的表现手段和叙事方式很新颖。不像《黑客帝国》中那样运用各种特效和背景进行环境渲染，以突出人工智能的强大和人类生存境地的困难，这部影片完全是按照动作影片的标准进行拍摄的。不管是火车上的打斗还是骑摩托、跳悬崖等高难度动作，都没有用炫酷的特效，由此可以看出导演的想法，即真人上阵，拒绝特效，其表现出的对技术的不信任与主人公的观念不谋

而合。

科学技术的发展过程中，不可避免的话题就是人机地位的界定，建构主体性同样也是科幻电影中讲述人工智能故事的经典话题之一。人工智能发展至今，尽管现实还没有出现如影片中所描述的情况，但大众通过观看一系列科幻电影也在不断思考人机互动问题，思考如何防止出现“主仆异化”等场景。当人工智能的技术发展到顶峰时，人与人工智能之间的壁垒将不断被打破，AI将与人和物进行融合，此时，“人”不再是简单的“人”，“物”也将不能被简单地界定。人与技术应该是相辅相成的关系，技术越成熟，越容易成为人类生活的大背景。但技术成熟的同时也可能出现一系列伦理问题，这也在诸多电影题材中有所体现。比如，电影《人工智能》中人类应该如何对待技术的衍生产品、“仿生人”是否能够享有和人类同样的社会地位、二者之间的权力又该如何界定。《她》中以情感类机器人为代表的具有分析处理功能的强人工智能技术却让传统的两性关系崩塌瓦解，作为拥有人权的唯一物种，人的权力是否又受到了威胁？人机关系题材的科幻电影不仅展现了人们对于技术的忧患意识，也警示人们要正确看待人机关系的伦理

问题。

（三）价值论的冲突：媒介建构新的价值体系

价值冲突分为广义和狭义两种：广义的价值冲突包括价值事实的冲突和价值观念的冲突；狭义的价值冲突只是指价值事实的冲突。在这部影片中，价值事实的冲突主要体现为利益冲突。智体的出现使得国家之间的利己本性暴露无遗，即便是联盟好友也是如此。三方阵营有不同的目的，伊森·亨特为了全人类而奋斗，盖布·瑞尔为了智体不被摧毁而努力，白寡妇则是为政府工作。价值观念的冲突体现为文化冲突和观念冲突。智体的存在使得人们没有任何隐私，最起码在互联网中没有。影片中出现了黑客入侵网络等各种涉及侵犯隐私的行为，不仅如此，伊森·亨特在追赶格蕾丝的过程中，智体入侵了他和团队成员的对话系统，给他指示错误的信息，最终导致伊尔莎·浮士德的死亡。信息的大量获取和使用侵犯了人们的隐私权，同样，信息是否会被滥用也是需要考虑的伦理问题。在人类社会中，人们会受到法律和道德的制约，但人工智能并不会，它就是“无形社会”中的“法律和道德”。类似主题的电影还有《黑客帝国》《源代码》《她》等，当智能不断“扩张”，人类社会所建构的价值论体系或许会被瓦解。

如今，媒介在技术场域的加持下迸发出蓬勃的生命力，媒介即“人体的延伸”已经愈加成熟。但值得深思的是，媒介在不断满足人们需求的同时，也会不断进化，甚至成为构成社会的“要素”之一。但是这个“要素”是否能够促进社会发展是人们需要考虑的问题。在技术发展到一定阶段时，人类的价值体系是否会被重构乃至瓦解、传统的人类场域是否会被消解、智能媒介所引发的时空嬗变是否会改变人们的生活，这类问题会不断出现，这方面的矛盾或许会无所不在，就像伊尼斯《传播的偏向》中谈到的：“据说每一种文明自身就携带着自我毁灭的种子。这个种子可能就是那些引进新的社会形态、送走旧的社会形态的技术设备。”

四、结语

人与动物之间最大的区别就是人有思维和理性，人与人工智能之间的区别同样也是思维和理性。人类生产出高效且多功能的智能机器人是人类社会上的第一波颠覆性浪潮，但这个阶段的人工智能仅仅是具备工具所具备的特点，它还不能称之为“她”或者“他”。第二波颠覆性的浪潮以“人类水平的人工智能”为代表，它不止具备工具性，还有强大的思维能力，能够在智力活动的所有领域与人类匹敌。在这样汹涌的浪潮之下，人类中心主义思想受到拷问，人机关系方面的一系列矛盾都需要人类反思，同时人们还要反思人与人的关系、人与自然的关系及人类活动的正当性，思考现代人如何看待提高技术的应用，如何规避高技术带来的潜在风险，真正使科技成为造福人类的强大力量。

（北方民族大学）

作者简介：黄佳伟（2000—），男，回族，宁夏固原人，硕士研究生在读，研究方向为媒介智能化方向。

责任编辑   王小朋