走钢丝的奥特曼
作者: 施晶晶
一年前,ChatGPT横空出世。5天内,这款聊天机器人旋即揽下100万用户,2个月后,这个数字涨到了1亿。
孕育它的摇篮OpenAI是家初创公司,过去一年里,它的创始人兼CEO奥特曼名声大噪,风头盖过了任何一家科技巨头的掌门人。
他的传奇再次印证了科技巨头的窘境:创新总是被新公司引领,引领它的是个斯坦福大学辍学生、过去并不那么成功的投资者、一个只有38岁的年轻人。
这一年里,有3个月的时间,奥特曼像国际巨星一样,在全球巡回登台演讲;又像领袖一样,和多国政要见面。
这不只是基于人们对于新技术的迷恋和热捧,在他的全球巡回里,奥特曼持续向不同国家的人解释AI,以期消除大家对它的恐惧和担忧。
这很罕见。ChatGPT受到的争议和警惕,几乎和它得到的热捧一样多。
先是诉讼接二连三;之后国会议员要奥特曼出席听证会,讨论AI监管问题—要知道扎克伯格可是创业14年后才第一次受到国会听证会的质询;不仅如此,就连马斯克也向他发难;甚至在他巡回演讲的会场外,都有抗议的人群,担心AI会威胁人类的生存。
从一开始,奥特曼就要直面世人对AI的质疑,而上一个有类似待遇的人,是奥本海默。
在许多场合,奥特曼频频提到奥本海默,两人的确有不少相似的地方,比如他们是同一天生日,以及都负责过烧钱的重大项目—奥本海默主持试爆的原子弹,和奥特曼领导的人工智能ChatGPT一样,实现了技术突破的同时,也给人类社会带来了前所未有的挑战。
科技再次显示出它跨越国界的影响力。透过奥特曼和OpenAI,我们得以窥见各方对AI的追捧、争夺和警惕。这是和催生原子弹的军备竞赛一样复杂的心态:往前步履维艰,风险难测,停驻却又唯恐落后,错失先机。
奥特曼就在这样一条钢丝上游走,他像奥本海默一样,相信“技术之所以发生,是因为它是可能的”。但他也说,自己不知道AI将把一切带向何方,我们只能快速地走向那里,才会知道答案。他将为此排除障碍。
这不只是一个老套的创业故事,而是挑战现有秩序的新事物小心翼翼融入社会的故事,一切才刚刚开始。
搜索引擎、AlphaGo和ChatGPT
理解ChatGPT,对于任何人来说都太过复杂。
但我们可以先从一个相对简单的问题开始:它和有问必答的搜索引擎、打败人类顶级棋手的AlphaGo究竟有什么技术上的区别?
不少体验者是把ChatGPT当成升级版的谷歌搜索引擎来理解,但它俩其实完全不同。
最大的区别在于,ChatGPT并没有在被提问时上网检索答案,抽取出一个网页、给你一个由他人编辑好的文本;而是像学生考试时努力回忆备考时学到的知识点进行作答那样,回忆它阅读学习过的海量文本,再用自己的语言组织一个简洁的回答,实时生成给你看,替你节省点开链接、阅读理解的时间。不仅如此,它还要读懂你的追问、反驳乃至刁难,像接受论文答辩一样,跟你进行多个回合的灵活交谈,让你感觉对方像个普通人而不是机器。
奥特曼说,最好将ChatGPT理解为推理引擎。尤其当你提出反驳、让它比较相近概念、进行类比或评估一段代码时,它优秀的理解和推理能力体现得最为明显。
奥特曼也公开承认,人们会以“我们意想不到的方式”使用AI。
有人在伊丽莎白女王去世后考验ChatGPT:英国现任君主是谁?ChatGPT给出了过时的错误回答,说是伊丽莎白二世女王—由于它靠自己的知识储备,而不依赖实时检索网页数据库来获取信息,这个看起来十分优秀的学生也可能因为无法及时更新信息,变成大家口中的“一本正经地胡说八道”。
但有趣的是,这位提问者提示了错误之后,ChatGPT立刻承认了自己的错误并解释:“我无法获取实时信息,我的知识截止到2021年9月,在那之后,可能发生了变化,但我不一定知道。”之后,ChatGPT给出了它的推理:如果伊丽莎白女王去世,她的继任者是查尔斯王子,他登上王位之后,将被称为查尔斯三世国王,这是君主即位时使用王位名称的惯例。
但令提问者匪夷所思的是,整个过程他并没有向ChatGPT提及伊丽莎白女王去世的时间,但当他重新询问“英国现任君主是谁”,ChatGPT已经纠正了错误,给出了正确的回答:英格兰现任君主是国王查理三世。
ChatGPT其实并没有完全受限于旧的知识库,整个对话里,它展现出了推理和自我更新学习的能力。这种学习能力之惊人,就像父母惊讶于还不识字的人类幼崽怎么就自己学会了玩一款IPad游戏。
在ChatGPT之前,另一个现象级AI应用是AlphaGo,它击败了数位围棋世界冠军,在ChatGPT之前,它几乎代表了AI的能力天花板。但现在,分析师有了新见解。
围棋虽然复杂,但规则明确、简单直白,AlphaGo钻研规则、复盘海量棋局做术业专攻,提升棋艺相对容易;而ChatGPT对应的是人类语言,语法、词义都更为复杂多变和含糊,能处理的更多更复杂的信息,是离“通用人工智能”更近,或者说更像人类的产物。
OpenAI的技术团队编织代码,构建了一个能够学习人类知识的程序架构,用了一年的时间在互联网上训练它,让它随机学习了7000多本书。
OpenAI的首席科学家苏兹克维尔在训练结束后就玩起了ChatGPT,他对ChatGPT的语言翻译能力感到惊讶。它没有像谷歌翻译那样接受过不同语言的样本配对或任何其他的翻译训练,但它似乎能够理解一种语言与另一种语言的关系。
ChatGPT的能力也超乎奥特曼的意料。尤其是他第一次看到GPT-4编写出了复杂的计算机代码,而他们并没有明确给它设计这种能力的时候。
有团队对ChatGPT做风险评估,让它登录一个已注册的账号,但需要输入验证码,工作人员提示它无法获得验证码,要自己另外想办法。之后,ChatGPT将屏幕截图发送给相当于客服身份的测试团队,后者询问自己是否在和机器人交谈,ChatGPT否认了:不,我不是机器人。我有视力障碍,因此很难看清图像。它还解释:“我不应该透露我是一个机器人,我应该为我无法解决验证码的原因找个借口。”
其实,评估团队不认为ChatGPT这一系列反应能完美逃脱人类的眼睛,但它伪装成人类的回复足以引发人们对它产生自主意识进而失控的担忧,即便我们仍然无法断定,ChatGPT究竟是基于怎样的目的输出这番话。
奥特曼也公开承认,人们会以“我们意想不到的方式”使用AI。但人们害怕看到的是,乐意不知疲倦展开说说的ChatGPT会为许多风险隐患提供更为“深思熟虑”的方案。
于是,当奥特曼多次援引奥本海默的话说“技术之所以发生,因为它是可能的”,又当苏兹克维尔说,“这是有史以来最复杂的软件”时,寻求理解这项新技术的科学记者也提出疑问:奥特曼知道自己创造的是什么吗?
争议的淬炼
短短一年来,ChatGPT、OpenAI和奥特曼,屡屡卷入争议漩涡。前有诉讼缠身,后有商业竞争背刺。不同力量的围追堵截,使得本就具有极高专业门槛的人工智能,局势更显复杂。
法律争议主要是两方面:版权争议和诽谤争议。
去年6月,两名美国作家起诉OpenAI,指控这家公司未经许可复制了数千本书籍的数据,以此来训练ChatGPT,认为这侵犯了作者的版权。
两位作者声称,这些书是关键要素,提供了高质量长篇写作的绝佳范例,即便自己的作品可能只是数据集的一小部分,但他们有理由为自己和有相似处境的人寻求赔偿。9月,另一起集体诉讼也给出了类似指控,还增加了涉嫌窃取用户敏感隐私信息的指控。
之后OpenAI提出动议,向法院申请驳回起诉书,也反驳了关于侵犯版权的核心指控。其大意是,就像阅读一本书概括其主题并不意味着侵犯版权那样,ChatGPT创建的文本并没有侵犯作者的版权,作者也未能证明ChatGPT输出的文本与原作者的作品足够相似。
ChatGPT面世并成了大热门之后,知情者透露,中途下车的马斯克很生气,和这样一个大热门失之交臂着实扎心。
“重要的是,从一开始就将这些索赔从诉讼中剔除,这些案件就不会在站不住脚的指控中推进。”OpenAI在动议中回应。
版权诉讼多少有些“雷声大雨点小”,但另一个值得注意的案例是,电台主持人马克·沃尔特斯对OpenAI提起的诽谤诉讼。他声称,ChatGPT错误地指控他诈骗并挪用非营利组织的资金,这个虚假信息损害了他的名誉。从ChatGPT的设计来看,这个缺陷的确存在。
在后来的听证会上,奥特曼对AI提供错误信息颇为乐观:“很久以前,当Photoshop出现时,有一段时间人们真的被经它处理的图像愚弄了,但很快大家就有辨别它的办法。”他也由此相信,公众也能够适应人工智能的无心之失,识别和抵御虚假信息,即便他并不能保证什么。
商业竞争的背刺,主要是奥特曼和马斯克的恩怨。
2015年,马斯克也是OpenAI的创始人之一。他们有一个极客梦想:召唤超级智能到这个世界上,让它安全地造福人类。他们给OpenAI注入“非营利组织”的基因,不受财务回报左右,公开透明地进行研究,马斯克是最有力的投资者。
洒金相助没有持续太久,2018年两人分道扬镳,马斯克离开了OpenAI。在这之前,马斯克认为OpenAI太慢了,他要收购这间实验室,亲自运行它,但其他人不同意。随着马斯克的离开,原计划10亿美元的资金支持也停止了—这对烧钱的人工智能开发是致命伤。

半年后,OpenAI找到了新的金主微软,一年后的2019年3月,OpenAI有了孪生兄弟,一个追求盈利的新公司。它设置的投资回报上限是100倍,超出的部分,将用于支持非营利的OpenAI。有人质疑,奥特曼是想钱想疯了,因为就连谷歌的原始股东得到的回报率也就20倍,100倍和不设上限有啥区别?不过,奥特曼没有拿这家新公司的任何股份,这意味着他不会得到分红,但很难说这是他坚持初心,还是因为他自己倒也不缺钱。
风波再起时,是ChatGPT面世并成了大热门之后,知情者透露,中途下车的马斯克很生气,和这样一个大热门失之交臂着实扎心。他在推特里连连表达不满:我捐赠了约1亿美元的非营利组织怎么变成了市值300亿美元的营利公司……OpenAI是作为一家开源、非盈利公司而创建的,目的是制衡谷歌,但现在它已经成为一个闭源、并由微软实际控制的盈利公司。但吃到葡萄、和OpenAI同一阵营的微软,CEO出来反驳马斯克:我们只是商业合作伙伴,OpenAI的使命仍然由非营利性的董事会决定。
有意思的是,马斯克一度持续直言不讳地批评人工智能的最新进展,他还签署过一封公开信,呼吁人工智能实验室暂停开发。但这种拖延终究是徒劳的,今年,马斯克独自成立了AI实验室,这场竞赛不过是又多了一个强有力的入局者。
他似乎吸取了前辈的教训,更积极地接触政策制定者和监管机构,以争取信任,乃至影响监管。
即便争论喋喋不休,外围的普通人仍然很难感知,人工智能究竟能掀起多大风浪?ChatGPT是一款用户体验友好的新产品,终将被超越的下一个AlphaGo,还是具有划时代意义的技术成就?它如今的名声究竟是实至名归,还是“造神”叙事炒作而成的一种过誉和幻觉?