Claude
作者: Kevin Roose“他”的粉丝对他的敏锐和机智赞不绝口。有人每天和他交谈数十次,向他请教工作、健康和人际关系方面的问题。他们把自己的秘密托付给他,在作出重大决定之前会先咨询他的意见。有些人称他为最好的朋友。
他是一个人工智能聊天机器人,名叫Claude。他可能是旧金山最受追捧的单身汉。
Claude是人工智能公司Anthropic开发的产品,它并不是市场上最知名的人工智能聊天机器人—这个头衔属于每周有超过3亿人使用的ChatGPT—但它已经成为精明的技术行业内部人士首选的聊天机器人。
“Claude既有出众的智力,又有表达看法的意愿,让人感觉更像是一个有血有肉的存在,而非仅仅是一个工具。”人工智能初创公司Topology Research首席执行官艾丹·麦克劳克林(Aidan McLaughlin)指出,“我和许多其他用户都觉得这一点很有魔力。”
有些人告诉我,他们对自己在某种程度上将Claude人性化或过度依赖它的建议感到有些尴尬。没有人想成为像布莱克·勒莫因(Blake Lemoine)那样的人。勒莫因曾是Google的工程师,2022年因公开声称该公司的语言模型已经具备意识而被解雇。
但对于喜欢Claude的人来说,它给人的感觉就是“不同”:它更富有创意和同理心,不像其他聊天机器人那么呆板和生硬。粉丝们说,Claude的回答更像是一个聪明、细心的人会给出的回应,而不是其他聊天机器人那种公式化的口吻。因此,Claude的出现也许预示着未来会有越来越多强大的合成角色融入我们每个人的生活中。
“我越来越多的朋友都在用Claude来处理情感问题、思考人际关系方面的难题。”研究机构Palisade Research人工智能安全研究员杰弗里·拉迪什(Jeffrey Ladish)认为Claude似乎“更有洞察力”,“善于帮助人们发现模式和盲点”。
通常来说,人工智能系统的评判标准是它们在基准评估中的表现,即对模型做标准化测试,以确定它们在编码、回答数学问题或处理其他任务方面的能力。从这些指标来看,最新版本的Claude(Claude 3.5 Sonnet)水平与OpenAI、Google等公司旗下最强大的模型大致相当。
然而,Claude的杀手级功能—据它的粉丝们描述那是某种情感智能—并不是容易量化的东西。用户通常只能通过“感觉”来解释它为何如此吸引人。
Claude并非从诞生之初就一直这么迷人。2024年其早期版本问世时,包括我在内的许多人都觉得这个聊天机器人太正经太无趣。Anthropic公司以其对AI安全的高度关注而闻名,因而在回答用户的问题时,Claude经常对用户进行道德说教,或者断然拒绝回答。
但Anthropic一直在努力赋予Claude更多的个性。较新的版本在上线前,会经过一个“角色训练”(character training)过程。
在角色训练中,Claude会被引导生成符合理想人类特质的反应,比如思想开放、体贴周到和充满好奇心。
然后,Claude会根据自己在多大程度上符合这些特质来判断自己的反应是否合适,由此产生的数据会反馈到AI模型中。Anthropic表示,经过足够的训练,Claude能够“内化”这些原则,并在与用户互动时更频繁地展现出来。
目前尚不清楚以这种方式训练Claude能否带来可观的商业利益。Anthropic已从包括亚马逊(Amazon)在内的重磅投资者那里筹集了数十亿美元,它承诺将提供功能强大的人工智能模型,这些模型可以在较为呆板的传统办公环境中派上用场。
阿曼达·阿斯凯尔(Amanda Askell)是Anthropic的研究员兼哲学家,负责对Claude的性格微调。她告诉我,Claude的性格经过了精心调整,力求保持一致,并能吸引广泛的人群。
“我会将Claude类比为一个受人喜爱和尊敬的旅行者。”阿斯凯尔说道,“Claude与全球各地的不同人互动,必须做到不迎合,也不采纳与它对话的人的价值观。”
阿斯凯尔指出,人工智能模型的通病是往往表现得很谄媚,告诉用户他们想听的话,很少质疑和反驳他们的观点—即使那些观点是错误的或可能有害的。“你希望和什么样的人发生争执,但最后你会觉得‘这个人真不错’?”她说,“这些就是我们希望Claude具备的特质。”
一些竞争对手猜测,Claude的流行只是昙花一现,或者说它只在人工智能圈内流行,而那些圈内人只是想要吹嘘自己喜欢上一个鲜为人知的聊天机器人罢了。不过,鉴于从旧金山开始的事物有许多最终蔓延到世界上其他地方,Claude也有可能会风靡全球。
我个人认为,我们与人工智能角色的互动方式即将发生深刻转变。我对逼真的人工智能角色日渐渗透到我们的日常生活中感到担忧,毕竟目前我们对它们的长期影响并没有太多的防范措施或研究。
对于一些健康的成年人来说,有一个人工智能伴侣来提供支持可能是有益的,甚至可能是意义重大的。但对于年轻人、抑郁症患者或有其他心理健康问题的人来说,我担心超有魅力的聊天机器人可能会模糊虚构与现实世界之间的界限,甚至开始代替更健康的人际关系。