当机器有了主体性，人该如何自处？

Yi：YiMagazine

P：彭凯平

人工智能技术以前所未有的速度进入了你能想到的人类生活的各个方面。除了像此前历次工业革命那样提高一些环节的生产效率，人工智能试图取代的东西还有更多—人的情感、陪伴以及深度思考。过去，这些属性被认为只有人这种高级生物才有，2022年11月最后一天ChatGPT发布后，这个结论被动摇了。

问题是，当人类开始深度依赖AI，甚至把情感、陪伴、深度思考等需求都寄托于人工智能，我们的个人和社会会变得更好还是更糟？美国佛罗里达州那位14岁小男孩在向他的人工智能透露出自杀想法、得到了人工智能的挽回，但最后仍然在家中自杀身亡的事，可以都归咎于人工智能吗？

以下是清华大学心理学系教授彭凯平对这些问题的回应。

技术总在发展，适应胜于忧虑

Yi：现在很多18到25岁的年轻人非常喜欢AI社交产品的陪伴，该怎么看待这一现象？你会感到担忧吗？

P：心理学家发现一个现象，Z世代（注：指1995年至2009年之间出生的人）都有一些社交依赖，他们不是利用传统的社会与人际关系、生活方式调整情绪，而是更多利用社交平台、技术产品去调整，这是一个全球现象，中国也不例外。人类社会里每次出现技术革命、生活方式的改变，都会带来心理变化，我们应该去适应，而不是一味担忧焦虑。在适应环境的同时不断成长，才是人的本质。中国的潘光旦先生把它叫作“位育”。“位”的意思是万物归位，人有自己的位，同时人得成长。所以我不担忧，现象出现了，心理学应该去关注，社会应该去努力，一起解决问题。

Yi：你觉得塑造人们心理的3个核心因素是什么？技术会不会是其中一项因素？

P：技术肯定是，因为它提供了即时反馈。孩子和父母再亲近，父母有时很忙，不一定能即时回应，但网上总有非常快的回应。第二，技术很大程度上让人有了自主控制感，用户可以选择屏蔽，也可以选择追求。现实生活中没有这种自主感，父母就是孩子情感最好的陪护，也可能是情感最大的影响源。但在互联网技术时代，用户可以去寻找，甚至去培养（社交）。小孩就有一种虚幻的自我控制感，但很多大人忽视了这种感受。第三，技术确实可以让人跨越时空，好奇远方的人并与之建立联系。现实生活中，只有自己身边的人（可以交往）。这是3个非常重要的心理原因，正好跟技术的优势完美匹配。

Yi：虚拟社交和现实社交之间是一种零和关系吗？还是说两者之间可以形成正向、良性的互动？

P：在情感需求的满足方面，虚拟和现实可以互相促成，互补可能很重要。现实得不到的关怀与支持，在虚拟世界可以得到。现实世界里没有心理学家去解决心理问题，可以去网上找一个虚拟心理学家。

Yi：对用户而言，现在用于情感陪伴的AI产品，其积极价值和潜在问题分别是什么？

P：积极价值就是即时满足、多样化、获得不同的信息观点。某种意义上，AI确实帮助很多人得到了情感丰富的咨询和陪伴，AI比较耐心，提供的内容比较丰富，反应迅速，这些是AI情感陪伴不可替代的优势。

问题也有3个。第一，它不真实。在人类几千万年的进化史中，人与人之间的肢体接触非常真切，虚拟仪态无法感受到气场，无法感到生命的活力和气息。第二，人类沟通有一种心心相印的感受，但很多人低估了这些沟通，心理学早就发现55387原则（注：美国心理学家和传播学家阿尔伯特·梅拉宾提出了一项重要理论，称决定沟通效果的55%是非言语线索，38%是言语线索，7%是词汇），55%的人类沟通不是靠语言，而是靠非语言沟通。而（AI）情感陪护一定是言语沟通，甚至有的时候用户会感觉AI话唠。第三个不同是现实生活中的沟通多样、全面，而网络沟通建立在算法基础上，算法可能误以为用户有某种行为特性，进而提供有针对性的陪伴，但这并不是真实生活的陪伴，不随机的算法是一种保护，也是一种陷阱。人要成熟，要变化，要多样性，而虚拟陪伴做不到这一点。

Yi：从互联网到人工智能，技术带来的心理状态和生活方式变化是互联网时代的延续吗，还是说出现了一些新问题？

P：出现了新问题，任何形式的技术革命都有延续的部分，但是还有一些突变。互联网有社交平台的特性，AI最大的特性，我认为第一是它有算法，这是以前的社交平台可能没有的地方。第二，它借助了过去很多知识文本，信息爆炸让人无所适从，以前人类可以控制，现在完全不能控制。第三，是会有一些误导，因为它根据算法和经验提出了一些想法，以前的社交平台没有遇到过，有人把它叫作涌现，而涌现不可琢磨。有人帮我做了一个虚拟彭凯平，但我不敢让“他”上线。我本人在社交平台上的发言有控制、有管理，但虚拟彭凯平会说什么我不知道，“他”有自我产生文本、语言、图像甚至记忆的可能，这也许根本就不是我，很危险。

人容易把超越物理定律的东西当成生物，AI就是这种东西

Yi：你认为AI跟之前的互联网一样仍然是个工具，还是说AI也已经有了一些主体性了？

P：有些人认为它是工具。它确实是一个工具，可以用得很好。但是它的语言表达某种程度上有自身逻辑规律，心理学家对此比较警惕。它的逻辑规律容易让普通人认为它本身就是一个Agent，作为主体，有自由意志、自我意识，甚至有自我的经历与经验，这些都不是人类的真实经验，是它自己创造的，这个风险非常大，作为心理学家和社会科学家，我更容易看到它后面的风险。

很多搞技术的人认为技术只是一种工具，实在不行就把电源拔掉。我个人觉得可以做到，但有很多人和AI沟通时，很容易把它当作另外一个生物体，这是人类的心理特性，人类容易把能够回答问题、会语言表达的（东西），当作一个生物体，虽然它并不是。

有些人把猫、狗作为自己倾诉的对象。三四岁的小孩会抱一个毯子，把毯子生物化，视作安全的符号。电影《荒岛余生》中汤姆·汉克斯把排球当作伴侣，为了救排球把性命都搭进去。连自然都可以生物化—我见青山多妩媚，料青山见我应如是。人类天生有一种把喜欢的东西升华的倾向，不会把它单纯当作工具，同理心强的人特别容易有这种感觉，比如小朋友、老人、妇女。说AI是工具的人，基本上是中年男性工程师。我认为事实比他们想的要复杂。

Yi：这样的心理机制导致很多人认为AI是一个主体，但其实可能不是这样？

P：理性上肯定不是，科学上肯定不是，技术上也不是，但人可能有这种心理。

Yi：1950年代的图灵测试曾定义说，只要30%的受试者识别不出来对方是机器，对面就是通用人工智能。现在的讨论是基于大家并没有认识到人的心理认知机制有把人工智能当作生物体的风险，所以才讨论人工智能是否有主体性？

P：对，图灵本身利用了人类的心理特性，提出来所谓的图灵测试，其实心理机制是人类的本能。

Yi：心理学家没有把这个常识告诉大家，为什么？

P：对，心理学家没做，可能是不感兴趣，有些心理学家在做别的研究。也有可能很多心理学家真的不懂，意识到这些问题的心理学家比较少。我曾因个人兴趣对中国的情况做考察，当年做了“生物化倾向性”的研究，讨论人视外界事物为生物的倾向性到了什么地步，运动的物体在什么情况下会被人类认为有主观性。我的结论是，只要不符合牛顿力学定律，就可以被看作是生物体。比如两个球静止，突然其中一个运动起来，人类就感觉它是生物体，因为没有能量转换。但如果是另一个球一滚过来，两球相撞后它再动，那它就不是生物体，只是球。

我用休谟的物理学观点（注：最早研究物理和心理现象的都是哲学家）和我的心理学解读回答这个问题，文章发在非常重要的心理学顶刊上（注：论文名为《物理和社会归因的文化差异》发表在《人格与社会心理学杂志》），但没人感兴趣，没人报道。与我合作研究的学生Eric Knowles如今在纽约大学任教，非常有名。

我们共同开展了大量物体因果关系分析，证实物体运动轨迹若违背牛顿力学定律，人类就倾向于将其视为生物体。这也意味着，当机器超越牛顿力学定律，可以言语交流时，某种程度上就被赋予了主观性。

深度思考、延迟满足、专注力的丧失，是更大挑战

Yi：移动互联网的即时反馈对人的心理机制是很大挑战，如果孩子们从小经常被即时满足，长大后面对现实中不能被即时满足的时刻，应对能力可能会下降？

P：对，提供即时满足的社交平台和人工智能存在不利影响。首先，深度思考能力会下降，人类能很快获得信息，没有冥思苦想，而是依赖计算机给出确定的回答。第二，延迟满足能力下降，习惯了及时行乐，再回到通过追求、学习、修炼去得到结果可能就有点难。再一个，高度专注能力也会下降，得到的信息太多，可以玩的东西层出不穷，专注一件事的能力会有变化。已经有心理学家开始关注这些问题了。

Yi：有没有一些心理学方面的数据和事实？

P：大数据和人工智能比较新，心理学家有一些研究，但是有争议。比如大家一直认为，打游戏对孩子们的学习有损害，但也有一些研究证明这对孩子的学习有帮助，起码对考试有帮助。所以结论很难得出来。但作为心理学家，我认为即时满足带来的延迟满足能力下降、专注力不足和深度思考能力下降的趋势比较明显，这些都有数据和报道，数据不统一，但确实存在。

Yi：深度思考能力、延迟满足能力和高度专注能力被认为跟人的创造力和学习能力相关。如果这三种能力持续下降，可能人类再要取得像AI这样的重大技术进展的难度就会提升。应该怎么处理这个问题？普通人应该如何在新的技术浪潮下自处？

P：心理学家没有提出好的方法，但也不是说没想过方法。一种方法是精英主义，培养拔尖人才可能在某种程度上是应对大规模的思维能力、情感能力下降的策略。这个思想不太符合我的普惠意识、公民意识、平权意识，现代文明的基础是教育的普及，天才应当由基因决定，每个人都有机会成为天才，要看谁能脱颖而出。

第二个方法是人类专攻人工智能取代不了的能力。刷题、做数学、搞设计、内容创造，机器做得很好，那人类就去做机器做不了的事，比如说美感，机器就做不到。摄影师可以捕捉到美好的光影，机器不一定能做到。人类的意义感，“感时花溅泪，恨别鸟惊心”，机器取代不了。人类有高度直觉能力，我称为“黄金直觉”，感觉不对，但逻辑、信息上哪里不对，我说不上来。人类有一些非凡能力，我总结出来大概有6个，包括幸福感、感染力，这些机器都做不到。

还有一些极端思路，就像马斯克这样的科学狂人认为所有芯片都应该纳米化，被植入人的身体里，让人类成为外挂的超人。这种想法太可怕了，但也许他们认为可以培养出这样的超人。科学界、思想界也在讨论，但还属于超前的科学幻想。我也不知道这是好是坏，新的时代变化出现总是让学者特别激动，因为伟大的社会事业就在眼前，会得出什么结果，学者还是有很大的责任。

Yi：这种情况下，做AI产品的技术公司应该更进一步做些什么事？他们是否意识到自己也有责任？你给他们什么建议？

P：AI公司有一个很好的觉悟：不作恶。Google还有Facebook的高管提出，技术不作恶、不伤害人类，不去取代人类工作，不剥夺人类的幸福，不干扰人类的繁殖，这些都是他们觉得能够做到的事。