通用人工智能与超级对齐

在2023年4月，我们以《ChatGPT改变世界——重新认识工作》为题，对人工智能技术进行了一次封面报道。做那一期报道最重要的原因就在于ChatGPT的横空出世，让我们在惊奇之余也很快意识到，人类社会很有可能会因此发生改变——很多传统的工作岗位会迅速被人工智能所取代，一些新兴工作岗位则会随之出现。

时隔不到一年，我们再一次以人工智能为主题进行封面报道，就是因为在刚刚过去的2023年里，人工智能的发展以及它对于人类社会造成的影响都远超我们的想象。各式各样的人工智能已经成为很多人日常生活和工作的重要的助手。整理文本、多种语言翻译、编写计算机程序，以及生成文字、图像、动画等工作皆可通过人工智能来轻松完成。

传统工作岗位的消失和新兴工作的涌现，很可能只是人工智能带给人类社会最微不足道的冲击之一。随着人工智能一日千里的进步，它对人类社会产生的深层影响已经清晰可见。随着“生成式”（generative）人工智能的进步，我们在互联网上浏览的大量内容可能只是由机器学习系统自动生成的，甚至连图片和视频内容都变得不再确凿可信。

被改变的也不只是人们使用互联网的习惯，人类进行学习和信息传播的方式已经出现了明显变化——这已经引起了诸多人工智能研究者和社会学家的关注。人工智能究竟有没有意识？或者说，人工智能会不会在某一天忽然“觉醒”？很多科学家认为这个问题非常重要，目前却还没有任何答案，甚至没有一个清晰的界定标准。随着“通用人工智能”（Artificial Genenral Intelligence）的发展，机器学习系统已经可以自己通过文字和图像进行学习，它能够完成的工作会越来越多。网上流传着一段由DeepMind公司和斯坦福大学合作开发的Mobile ALOHA机器人为人类洗衣做饭、整理家务的视频，让很多人惊叹科幻已经成为现实。尽管事后开发人员解释那段视频有些是由人进行远程控制完成的，有些则是机器人通过反复尝试才完成的，但仍然足以让人去想象身边有一个全能机器人陪伴的未来生活。

作为人类智慧的产物，人工智能越强大，它可能对人类社会造成的危害也就越大。我们无法将人类的道德观和法律直接套用于人工智能，却必须保证功能越来越强大的人工智能机器，其内嵌的意图和价值观与人类保持一致。这也正是如今在人工智能领域的一个研究重点——人工智能对齐（AI alignment），以及由此衍生出的超级对齐（Superalignment）概念。人类社会的价值观本就多元，想要让人工智能与人类社会实现“对齐”，不能表现出偏见和歧视，更不能出现道德和伦理缺陷，就需要对它大量的监督和训练。各国政府在立法和监管层面也必须尽快达成共识。

未来正在以我们意想不到的速度展现在眼前。在这个美好的图景中，我们的生活更加便利；我们的工作更加轻松；互联网上的内容将更加精彩……不过，人的意义又在哪里？当我们创造出一个可以全方位媲美人类，甚至是超越人类的智能体，我们又该如何看待自己？

关于这个问题，或许没有人能给出答案。 人工智能