真相终结：人工智能如何欺骗我们

鲍里斯·埃尔达格森是一个秃顶的男人。当他站在自家客厅的照片墙前时，一眼看去，就好像他的光头上长出了植物。然而，这只是一种错觉，源于墙纸上的苔藓图案。这种设计已有120年历史，出自自然科学插画集《自然界的艺术形态》，由动物学家恩斯特·海克尔绘制。他希望借此“为人类打开无与伦比的美学宝箱”。

埃尔达格森打开笔记本电脑，展示那张让他声名大噪的黑白色调照片，上面是两个严肃的女人，其中一个害羞地躲在另一个身后，她们的头顶上方是闪烁的电线。这位柏林摄影师将这幅作品命名为《电工》。

而在创作这件摄影作品的过程中，埃尔达格森不需要照相机，也不需要坐在镜头前的女模特。事实上，这是一件人工智能的作品。

一年来，埃尔达格森尝试利用所谓的“生成式人工智能”进行摄影创作。这种技术取代了他职业生涯中曾经依赖的元素——精密的光学仪器、闪光灯、光圈，甚至摄影主题。他只需在电脑中输入精确的提示词，然后让软件自行完成作品，这就是所谓的“提示词照”。为了创作《电工》，他使用了美国开放人工智能公司的达力2模型。而现在，他最喜欢的软件是《稳定扩散》。他说：“我是导演，人工智能是舞台布景、色调、摄像机和给我提建议的演员。”他的任务仅仅是进行筛选。埃尔达格森想描摹的世界源于机器，而且我们现在已经几乎无法将其与真实世界区分开来。

2022年4月，《电工》赢得了索尼世界摄影奖，但埃尔达格森拒绝领奖。他认为，这完全是张假照片，而它引发的讨论比赢得任何奖项都更有意义。

近年来，埃尔达格森“提示词照”背后的技术取得了显著进步。事实上，人们能够相信自己眼睛的时代早在几十年前就已成为历史。上世纪90年代，史蒂文·斯皮尔伯格让恐龙在大银幕上重生，图像处理软件可以教会任何业余摄影师修图之时，真实性就已经变得支离破碎。当政治家们发现利用假新闻可以在选举中轻易获胜时，真实性更是消失殆尽。

然而，就算借助所有这些工具和程序，通常也仍需花费大量时间和金钱才能达到目的，而生成式人工智能实现创意的过程是如此短暂。一切都发生得飞快，在短短几个月内，以前只出现在晦涩研究文献中的术语已经变成了每个人都在使用的数字工具，人工智能的大量创作淹没了整个互联网。它们克隆音乐家、政治家和我们朋友的声音，伪造出穿着白色羽绒服的教皇或国会大楼爆炸的照片。它们使我们无法再相信屏幕上的世界是真实的。“将来，我们每看到一张照片，首先想到的都会是，它是不是真的。”摄影师埃尔达格森说。

凯特·科洛福特是研究人工智能社会影响力的顶级专家之一。她表示，我们正处于“一个历史的转折点”，迎来了“生成时代”。问题是，面对接下来数年即将发生的种种变化，我们的社会是否已经作好了充分的准备。因为生成器不仅能创造，也能破坏：当现实或历史图片资料显示出从未发生过的事情，当一位歌手唱起了他从未唱过的歌，当名人被引用了他们从未说过的话，真实性就会失去立足之地。在一个无法对任何真相达成共识的社会里，将会发生什么呢？

地震

2023年3月中旬的一个周四，网民们纷纷纪念一场灾难。据称，2001年，美国俄勒冈州的海岸边发生了一场9.1级的地震，波及卡斯凯迪亚隐没带，并在几分钟后引发海啸，导致数千人死亡、数十万人流离失所。那些描绘这场世纪灾难的照片展示了房屋废墟、穿着反光警示背心的记者、哭泣的家庭和前往地震地区视察的时任美国总统小布什。然而实际上，这是一场没有任何人记得的灾难，因为它根本就没有发生过，“2001年卡斯凯迪亚9.1级大地震和海啸”是一场虚拟灾难。

美国贴吧网站“红迪”的一名用户将这些照片上传到了一个专门讨论“生成式现实”的论坛。这里聚集了人工智能绘画工具《旅途之间》的大量用户，他们早已习惯了数字领域的各种疯狂创意：老去的皇后乐队主唱佛莱迪·摩克瑞参加2023年的骄傲大游行，汤姆·克鲁斯出现在超市收银台后……尽管如此，“2001年西海岸的地震”让这些人工智能的资深用户也深感不安。一名用户写道：“两年后，我们将很难辨别信息的真假，而到了2100年，人们将无法确定哪部分历史才是真实的。”

寻找真相的人迟早会注意到艾略特·希金斯。这个英国人是网络上最有经验的事实核查人之一。2014年，他成立了调查平台“贝灵猫”，致力于揭露国际丑闻。2023年3月，当红迪网用户试图创造历史性灾难的时候，希金斯在尝试构造一个更近的事件。在特朗普可能面临指控的新闻传出之后不久，希金斯用《旅途之间》生成了一系列假照片，包括特朗普被捕入狱和穿着橙色囚服清洁厕所等场景。这些照片得以疯狂传播，上面带有微小的人工智能标识。《旅途之间》随后封锁了希金斯的账号。

希金斯警告道，新技术的欺骗能力令人震惊。像他这样的专家习惯于通过确认拍摄地点等方式检验图片的真实性。虽然人工智能可以虚构某地的照片，但目前还无法匹配全球定位系统数据。然而，希金斯很担心被图片、视频、新闻和观点洪水淹没的普通用户。人工智能程序使用大量公开数据进行训练，因此越是有名的人，其假照片看起来就越真实。而这不仅可能激怒娱乐明星，还会给企业家、记者和政治家带来实实在在的麻烦。

如果骗子想用亲戚的声音欺骗容易轻信的祖父母，他们必须花费大量时间和精力，先为这场基于人工智能的骗局搜集到足够多的素材。但如果有人想用有关战争进程的消息欺骗全体民众，则可以在短时间内轻松获得数千小时的政治家影音文件。希金斯对人工智能企业的漠然态度感到愤怒。他预测，下一次美国大选时，将出现第一场人工智能生成的内容之战。“那将完全是一场闹剧。”他担忧地说。我们已经能从共和党内部辩论的情况观察到这一点。2022年5月，在美国前总统特朗普发布的一个视频里，其竞争对手罗恩·德桑蒂斯的克隆语音正和埃隆·马斯克、乔治·索罗斯、阿道夫·希特勒以及魔鬼交谈。德桑蒂斯用三张人工智能生成的照片简单回应了一番。在这些照片上，特朗普真诚地拥抱了他实际上仇恨的美国流行病学家福奇。

克隆音

2023年4月，奥布瑞·德雷克·格瑞汉有了一次不同寻常的经历。他听到自己在唱歌，或者说至少是某个声音和他一模一样的人在唱歌，而这首歌他本人从未唱过——人工智能模仿他的声音，翻唱了新人埃丝·史佩斯的热门歌曲《大口咀嚼》。对此，这位以自己的中间名德雷克为艺名的歌手情绪激动地说：“真是够了！”然而，面对克隆音的攻击，他的反抗太过无力。

同月，歌曲《袖口之心》横空出世，这次是德雷克和另一位著名歌手威肯的合唱。两人的声音都是人工智能合成的。而且，这首歌不是翻唱，而完全是原创，由“幽灵创作者997”发布。

这首歌获得了数百万人的追捧，最终德雷克的唱片公司从各大平台将这首“假歌”下架。他们作出这个决定并非因为必须禁用克隆音——这方面的法律规定目前仍不明朗，而是因为歌曲中有禁用的采样编曲。对于各方来说，这都是个相对温和的结局，也可能是一个新时代来临的征兆。

在视频网站上，音乐时代和流派界限已然模糊。约翰尼·卡什唱皇后乐队的热门歌曲《波西米亚狂想曲》？弗兰克·辛纳特拉翻唱迈克尔·杰克逊的歌？泰勒·斯威夫特助你做正念冥想？一切皆有可能。“如今的合成音已经让你辨识不出唱歌的到底是不是真人。”比约恩·于斯说。他在伦敦创建了音频克隆创业公司“算术”。克隆的基础是真实说话人的声音。

于斯表示，近一年来，这项技术取得了长足进步，曾经需要50到100小时的训练素材和六位数的资金，合成音才可用，到2023年底时就只需要15到20分钟了。

“算术”公司提供60多个语种的约1000种人工智能克隆音。市场营销公司将之用于宣传，连播客都开始用合成音来播报了。好莱坞的工作室已经开始数字化他们明星的声音。德国主播协会董事会成员乌穆特·迪里克建议协会成员禁止自己的声音用于人工智能用途，如果要给出许可，应对此收取高额费用。

企业家于斯已经梦想着做个性化电台，不仅为每位听众匹配喜欢的音乐，还用他们青睐的合成音播报新闻。男主播、女主播，德语、英语，简明扼要的、严肃认真的……你想要的，人工智能都能做到。

“在这件事情上，我们的态度要既积极又防备。”托马斯·科尔斯菲尔德说。2023年7月，33岁的他成为贝塔斯曼音乐集团首席执行官。他知道自己将面对什么。“每10到15年，音乐界就会发生一场彻底的变革。”人工智能将是他在任期间最重要的工作主题之一。

科尔斯菲尔德管理着蒂娜·特纳、“黑色安息日”乐团和约翰·传奇的音乐版权。这些歌手的声音曾经都是独一无二的，如今却能被人工智能毫不费力地模仿。科尔斯菲尔德认为，年轻的新生代歌手应利用人工智能。以前需要整个乐团才能实现的音乐灵感，如今只需要一部电脑就可完成。“我可以听一下用萨克斯管演奏这首歌嘛？或者不要小号呢？这样的试验只需要几次点击就可以实现了。”科尔斯菲尔德说。

科尔斯菲尔德的防备态度主要关乎所有无法在模仿者面前保护自己版权的歌手。当特纳的声音突然唱起碧昂丝的歌时，谁保护特纳歌曲的版权所有者？谁会说服音乐家出租他们的声音？谁该获得人工智能热歌赚取的金钱？“我们作为公司有兴趣保护音乐版权。”科尔斯菲尔德说。这也意味着，贝塔斯曼很愿意从人工智能蛋糕上分得美味的一大块。

于斯也为他公司的人才给出了相似的承诺。主播们的声音将成为商品，他们可以通过出租自己的克隆音赚钱。打开收音机，可以听到克隆音如何为一个建筑市场的开幕活动打广告，或者为某个党派作宣传。于斯许诺，他的公司只会复制那些给予了他许可的人的声音。

换脸