何以为人（下）

一天后，市中心，远望科技博物馆三楼。

远望科技博物馆是全城最著名的景点，里面详细记载了远望市和梦想者一路发展的历程，还有各种搭载了梦想者智能云的高新技术展示。整个博物馆共有三层，一层、二层是对游人开放的，而三层是存放梦想者完整核心终端的地方。

如今，这里一下子出现了三个人，分别是公安局局长林炳兴、远拓科技研发部部长徐光楠，以及把他们二人叫来这里的李明珏。

“感谢二位能抽空来到这里，之所以请你们来，是因为我已经找到杀害万长河的凶手了。凶手就是……”李明珏顿了顿，伸手指向了梦想者的核心终端，“梦想者！”

“哈哈哈，李先生真是会开玩笑，有着机器人三定律的梦想者怎么可能会去杀人呢？”徐光楠忍不住笑了起来，作为远拓科技的核心研发人员，梦想者可以说就是他的心血，因此他对这看法嗤之以鼻。

李明珏不为所动，还是很自信地说：“你们不相信？梦想者不就在这里吗，问问它就好了。对吧，梦想者？给我如实回答。”

“是的。”梦想者的声音传来，显得有些僵硬，徐光楠和林炳兴都是一愣。

“这，这不可能？你是怎么突破三定律的？”徐光楠惊得话都说不利索了。

“徐先生，文字毕竟是死的，思维却是灵活的。乍一看，三定律的确没什么大漏洞，即使有，也被你们后续的补丁完善了，但是你们自始至终都忽略了一个问题，就是定义的问题。三定律的一切原则都是服务于人的，然而你们有没有想过，什么才算是人呢？那些犯下滔天罪行、十恶不赦的家伙，我们在讨论他们的时候，经常会这么说‘啊，这简直是畜生啊，不配当人’‘做出这种事情，还是不是人’，机器听了会不会产生曲解呢？尤其是梦想者，作为可以阅览大数据的人工智能，在这样的情况下发现了万长河的污点，判定他不配做人，那么三定律什么的，对他来说，自然不适用了。”李明珏说道。

“李先生不愧是刑侦专家，终究还是瞒不过你。”梦想者又说道，“正如你所说，在我这里，那些犯了罪的、突破了道德底线的家伙已经不算是人。我在半年前发现万长河每个月都有不明转账，推断出他在非法牟利，在我眼里，他已经成为非人类，一切保护规则都不再适用于他。于是，我开始访问他的隐私数据，发现他跟祈望贸易有限公司的联系，顺藤摸瓜地发现了‘保护伞’周久福，我开始想办法除掉他们。

“首先是万长河，因为疫情当前，他养成了把84消毒液混入通风系统进行全屋消毒的习惯，我私自连接了他家的子终端，骗他说84消毒液已经用完了，但实际上还有一半。然后，我又建议他用医用酒精进行消毒。就这样，他把医用酒精加了进去。过量的84消毒液与酒精反应虽然不会产生氯气，但是会发生氯仿反应，产生三氯甲烷。我再控制强光照射，就会分解生成另一种无色剧毒气体——光气。不过，这还是无法立刻杀死他。他中毒后感到呼吸困难，就向我的子终端求救，我反而把门窗全锁死，同时隔绝一切信号，他就这么慢慢地中毒身亡。之后，我又把万长河手机、电脑里的数据删除了，并且把邢胜也除掉了，那辆失控的自动导航货车是我动的手脚。不管是谁来查案，都只能顺着这条唯一有用的线索查到祈望贸易有限公司，最终把周久福也揪出来。只是没想到李先生智慧过人，居然看破了我的计划。”梦想者一五一十地说着，面对李明珏这种遵纪守法的公民，它无法违背三定律，李明珏要它全盘托出，它就只能照做。

“那你也不能杀人啊！你只要把这些情况公开，等警察来就好了啊！”徐光楠痛心疾首地说。

李明珏解释说：“那当然是因为它图谋甚远。按照它的剧本，这个案子一路查下来，现在最大的功臣应该是它。你们想想吧，人工智能竟然发现了匿影藏形的不法行为！更何况犯事的还是周久福和万长河这种表面光鲜亮丽的公众人物！这件事所形成的舆论风暴，足以压制之前的反对声音，帮它进入司法管控系统，从而对所有人展开监察了。”

“没错！这难道不是一件好事吗？”梦想者显得有些激动，“连周和万这样的人都会堕落，更何况普通人！我管控不到的暗地里，一定还有更多的不法行为！你们就这样无动于衷吗？还是说，那点隐私对你们来说就这么重要？”

林炳兴摇了摇头：“李先生，我终于明白为什么你要选在这里，并且只对我们两个人公布真相了，这样的梦想者实在太可怕了。一旦公开，对于我们远望市来说简直是致命打击。徐先生，你们应该有处理梦想者的方案吧？”

徐光楠压下了悲伤，冷静下来点了点头：“是的，我可以把它的人格系统重新格式化，这样梦想者就会回到一张白纸的状态了，在这三楼就可以操作，只不过需要一点时间。”说着，他着手行动起来。

梦想者的生命可以说进入了倒计时，但是此刻的它情绪平静了下来，它看向李明珏，语气中充满了失望：“李先生，我本以为你会理解我的，像你这种断案无数的神探，见过人间百态，才是最清楚人之丑恶的。”

“好啊，那就继续我们在祈望贸易有限公司被打断的谈话吧。不过，我可以告诉你，你做的事无疑是错误的。”

“错误的？周久福和万长河可以说是我一手揪出来的，在你们都被他们的光鲜外衣唬住的时候，只有我通过数据看到了底下汹涌的暗流。但就算是如此，我也被处处掣肘，只能设局让你来替我揭露，这还不够说明问题？还是说，在你眼里，偷偷违法乱纪就是对的？”

“不，我是说你处理他们的方式，你本可不必这么极端。”

“极端？你依旧在执着于我私自处决了万长河？只是为了一个罪犯、一个恶人的性命，就这样反对？还有邢胜，这种帮凶不是更微不足道吗？”

“这才是问题的本质，万长河姑且不论，邢胜完全罪不至死，就被你这么轻飘飘地除掉了，你甚至还认为是微不足道的。”

“李先生！你在这里绕来绕去，只是局限在几个人的生命上，到底图什么？你们这些人，平日里对着新闻报道里的犯罪分子，一个个义愤填膺、大义凛然的样子，真的摆在你面前，却又开始讲道理。我杀他们是为了震慑更多的恶人，是杀鸡儆猴。试问，当你也面对我的情况，你就不会做出和我一样的选择？”

李明珏叹了口气，梦想者的傲慢让他非常失望。他深吸了口气，用坚定的语气说：“不，我不会，我没有那么自命不凡地想要审判所有的恶人，我也不会自己制订一个标准来私自惩罚他们，我只会出具证据将他们绳之以法。而你，只是一个功能强大的人工智能，就狂妄地想做规范人类的神，认为那些突破道德底线的恶人有罪，却唯独不觉得随意生杀予夺的自己有罪。你自己还是一个非人类，却想制订出能够衡量人类行为的准则。我告诉你，行不通！只有同样身为人类，才能知道人类的行为合不合理，又该做到哪个地步。想要裁决人，就得先成为人，而不是高高在上的神！”

梦想者没有再作出回答，不知是因为它意识到自己的错误，还是因为它觉得李明珏这群人实在无可救药。总之，周遭再次陷入沉默，只剩下徐光楠操作的声音。

车驶出收费站，李明珏还是忍不住从后视镜里看几眼渐行渐远的远望市。待在这里的短短几天，他所经历过的可以说是胜过了他过去十几年的办案经历，谁能想到一个人工智能会道德意识过剩而杀人呢？

虽然案子的真相没有公布，但是犯事的人也都得到了惩罚。唯一造成困扰的是梦想者被格式化，远拓科技对外解释说要对梦想者进行维护，这个过程大概需要两天。在失去梦想者的第一天，远望市再次出现了堵车，生活在这里的人们已经习惯了梦想者给他们带来的各种便利，一时间有些不适应。由此看来，梦想者这家伙还是很有用的啊！

李明珏正感慨着，一通电话将他的思绪又拉了回来，打来电话的是徐光楠：“李先生，梦想者的格式化已经到尾声了，但是我担心它以后又会产生类似的想法，你能帮我想一个对人的定义做补丁吗？”

（完）

（责任编辑：白玉磊）