以下是摘自 Zeeya Merali 所著的《小房间里的大爆炸：创造新宇宙的探索》的改编节选，该书 现已上市。在该书中，Merali 探讨了在实验室中创造一个婴儿宇宙的可能性。在本节选中，她会见了著名未来学家 Anders Sandberg，讨论在婴儿宇宙中可能创造新的智能生命的伦理问题，或者意识在计算机模拟中进化的可能性。
20世纪80年代，当 Anders Sandberg 还是个孩子时，他喜欢在 Sinclair ZX81 上制作模拟程序， mock-up 迷你太阳系。后来，他转而设计了受大脑启发的学习算法的人工神经网络。“有些人通过看电视放松。我一边听哲学讲座一边编写模拟程序，”Sandberg 笑着说。他回忆说，1999年的一天，他删除了计算机上一个神经网络的副本，感到“一丝不安”。他忍不住担心：“我刚才是不是杀死了一个小小的造物？”
在感受到失去神经网络的内疚之后，Sandberg 将重点转向哲学，现在他在牛津大学人类未来研究所撰写关于模拟伦理的文章。他认为，人们将不得不比他们想象的更早地解决如何以同情心对待机器实体的问题。然而，他指出，不仅普通大众，就连科学家们也普遍不愿意面对这些问题。
在与参与宇宙构建的物理学家交谈时，我遇到了这种犹豫。一些人试图回避关于在实验室制造的宇宙中创造生命的道德含义的问题，声称这些问题超出了他们的职责范围。“大多数人都有一个“怪异限额”，你真的不能用得太多，因为如果你超支了“怪异账户”，那么显然你就不会被认真对待，”Sandberg 说。“所以很多人对那些实际上可能很重要的问题保持沉默。”
Sandberg 可以设想一个超级智能种族为什么会创建一个模拟程序并将我们置于其中；许多原因与我们目前运行模拟程序的普通理由相同。例如，我们正在努力确定最有效的有限资金用于医疗保健的方式。是拥有一个全民健康水平较高但医疗保健分配不均的世界更好，这样少数人遭受痛苦？还是追求一个更公平的社会，每个人都能获得相同水平的医疗保健，即使这个水平可能相当低？模拟这两个世界可能有助于你决定。只要模拟中的生物没有意识体验，那就可以了。但如果它们进化出智能和感情，那么你可能无意中在你的虚拟世界中创造了很多痛苦。
Sandberg 认为，我们有可能是一个相对较小的模拟程序的一部分，该程序正在监测英国国民医疗服务体系在英国人口中的不同支出政策的成果。在这种情况下，重点将是英国使用这些资源的人，而模拟宇宙的其余部分可能只是为了增添色彩而勾勒出来。
但现在我想探讨一下，作为我们自己模拟宇宙的程序员，我们负有什么道德责任。首先，是否存在一个人医疗保健政策模拟程序可能会发展出有感知生命力的严重危险？“人工智能意外出现的可能性不如有人故意制造它，但如果原则上可能发生，我不会感到惊讶，”Sandberg 说。如果发生这种情况，很可能是因为我们正在创建越来越智能的软件，这些软件本身不会产生意识，但被设计成与其他智能软件接口。危险在于，当它们连接在一起时，整体可能大于部分之和。
假设这种情况意外发生，我们的医疗保健群体产生了体验。我们应该干预，还是应该拔掉插头结束他们的生命？在医疗保健模拟方面，Sandberg 说，一个减轻我们迫使一些造物经历贫困和医疗保健不足的罪恶感的建议是，在模拟结束后，通过将它们转移到另一个可以过上愉快生活的模拟中来奖励它们。
“这听起来很像送人上天堂，”我说。
“这是一个偷来的想法，”Sandberg 承认。但是，制造一个人工天堂来补偿你的生物会带来一个新的问题：你想把你的哪个受虐待的模拟实体的版本上传到天堂？将一个人在患阿尔茨海默病后记忆和大脑功能受损后上传，似乎是不公平的，所以也许你应该上传一个年轻的版本。但是，很难决定在何时应该转移该实体，哪些生活事件应该被视为对其身份发展至关重要，哪些应该被抹去。你应该上传一个在其人生中信教、坠入爱河、生孩子或经历创伤事件之前的实体，还是之后的实体？“如果你认为你对模拟实体负有道德责任，那么其界限有些不清楚，”Sandberg 说。“也许你应该在他们一生中的所有时间点复活他们的副本。”
在粒子加速器中制造一个宇宙将是一项壮举。但考虑到我们目前的能力，我们似乎不太可能在实验室中实现 Sandberg 在谈论计算机模拟宇宙时所提到的控制水平。例如，在大型强子对撞机中，研究人员主要采用“碰运气”的策略，几乎没有精细调整粒子碰撞产物的空间。在这种情况下，我们可能会无意中产生生命，我们的生物能够体验伴随的痛苦和快乐，但事后我们却无法控制它们的福祉。那么，我们应该继续这样做吗？
尽管这是哲学家们在模拟的背景下长期深入思考的一个经典问题，但 Sandberg 指出，对此没有共识。也许最简单的答案就是明确地说“不”。如果你的宇宙有可能产生一个会遭受痛苦的有感知能力的生物，那么你不应该创造它。其他人会说，重要的是宇宙中体验的总和；如果你把快乐的人加起来，减去不快乐的人，得出一个总体积极的答案，那么就去做吧。还有人认为，你需要衡量宇宙中幸福的平均水平。但是，对于什么构成一个好的宇宙，没有明确的数学答案。我们又回到了医疗保健的谜题，稍作改述：一个几乎每个人都略感幸福但有几个人被残忍折磨的宇宙，比一半人口欣喜若狂而另一半人口略感痛苦的宇宙更好还是更糟？“无论你怎么争论，你都可以找到一个理由，但随后有人会提出一个反例，说明为什么它不好，”Sandberg 说。
或许也可以认为，创造有智能的观察者会不断放大宇宙中的善，即使我们失去了对造物的控制。“我有一个论点是，智能生命倾向于试图控制其环境，以便使自身受益，”Sandberg 说。“所以你实际上应该期望一个充满智能观察者的宇宙会比没有智能观察者的宇宙稍微好住一些。”
这真是一个我从未考虑过的观点。也许我们有道德义务去尝试创造更多的生命。我感谢 Sandberg，然后道别，感到安心。我希望他是正确的，当然，因为事关重大的，可以说是字面意义上的，是天文数字。
改编自 Zeeya Merali 所著的《小房间里的大爆炸：创造新宇宙的探索》。版权所有 © 2017。由 Basic Books 出版，Perseus Books, LLC 的一个分支，Hachette Book Group, Inc. 的子公司。
《大众科学》很高兴为您带来精选的新书和值得关注的科学相关书籍。如果您是作者或出版商，并且有一本您认为我们的读者会喜欢的令人兴奋的新书，请与我们联系！发送电子邮件至 books@popsci.com。
