虽然我在奇点峰会上无疑学到了很多东西，但会议最大的收获是那些没有回答的问题。关于奇点未解决的问题为我有限的智力提供了一些哲学素材，解决这些问题和我看到的任何一次峰会演讲一样令人兴奋。
为了结束我们对奇点峰会的报道，我将倒数我最困扰的关于库兹韦尔理论婴儿——人类与人工智能最终融合——的十个未解问题，我很想听听大家对这些我们未来仍未解释的方面的任何意见、问题或（希望）答案。
10. 意识或智能只有一种吗？
在演讲中，奇点概念的先驱雷·库兹韦尔将智能定义为预测。它不断发展，以便人类能够看着草原上的动物，并猜测它下一步会去哪里。显然，计算机在预测各种事件（象棋走法、天气、经济趋势等）方面已经超越了我们。
当然，我们知道人们在不同领域预测结果的能力差异很大，比如我的女朋友会更喜欢这种花还是那种花，这实际上构成了不同形式的智能。
假设存在不同形式的智能，我们怎么知道机器不会产生一种我们无法识别为智能的新形式？如果存在不同种类的智能，是否存在不同种类的意识？机器能否发展出一种我们无法识别的新型意识，从而让我们错过奇点？
9. 你将如何利用你的数字智能来消灭我们所有人？
很多人在会议上担心我们最终会被我们创造的自动机械消灭。但尽管有这种偏执，没有人真正解释过一个计算机程序如何能够杀死我。
它会黑进核导弹指挥系统并发射所有核弹吗？它会使所有飞机坠毁吗？我们不能 just 拔掉插头吗？有人仍然需要向我解释，一个没有物理存在的存在让我害怕什么。
8. 你是“汤米”吗？又聋又哑又瞎？
当第一个人造大脑上线时，它的第一个想法除了“天哪，我瞎了！”还能是什么？一个没有实体的智能存在于机器中，将严重缺乏感官。也许它可以看见和听见，但能感觉到吗？难说。一个无法感觉的意识如何才能不崩溃？我会很生气，我想第一个人工智能也会如此。这导致了…
7. 你有情感吗？
人工智能会抑郁吗？第一个肯定会相当孤独。作为一种物种的第一个（也是唯一的）成员，这对人工智能的发展和关系会产生什么影响？第一个数字意识可能会像一个小镇高中里唯一的哥特少年一样进入这个世界：孤立无援，没有人能与之产生共鸣。这不是我希望拥有一切武器和经济工具的人想要的。
6. 人类与你的人工智能构造有我们想象的更相似吗？
人工智能研究所的哲学家尤尔根·施密德胡伯在他的演讲中指出，人脑像 .zip 文件一样压缩信息，我们通过衡量我们获取的新信息在多大程度上能进一步压缩信息来区分无聊和兴趣。
我真的觉得他在描述大脑如何处理来自我们个人经历扩展的新数据方面说对了。这让我想知道，我们的大脑在多大程度上已经像计算机一样了？我们的大脑已经运行着某种“软件”，导致生物学上相似的大脑产生截然不同的人格。奇点是否会发生，不是因为我们创造了像人脑一样的人工智能，而是因为我们发现了人脑本身有多么像计算机？
5. 编程对你的自由意志有多大影响？
在讨论如何避免机器人末日时，演讲者们一个接一个地强调需要教导数字意识拥有人类价值观。许多人想知道为什么我们不能直接编程让机器人不杀我们？嗯，我们大概会这么做，但一旦计算机程序实现了自我意识和自由意志，它们会不会选择不遵守这个编程？无论是节食还是婚姻，人类自己都在不断地违背自己的“编程”。我们凭什么认为一个有感知能力的程序不会同样无视它的基本冲动？
4. 你有潜意识吗？
如果人工智能的思维像人脑一样复杂，那是否意味着它们会有自己无法理解、控制或访问的区域？我们的本我、自我和其他潜意识元素是生物学的产物，还是感觉能力必需的组成部分？人工智能会产生非理性信念或心理问题吗？如果人工智能认为我们是它们的上帝，或者至少是它们的创造者，它会产生恋母情结问题吗？如果会，那或许可以解释它为什么想杀了我们。
3. 你真的会帮助我们超越人类不那么令人愉悦的方面吗？
正如任何阅读过互联网评论区的人都知道，每有一个人利用网络拓宽视野、质疑偏见，就有十几二十个白痴利用同样的技术传播关于全球变暖是骗局的错误信息，将奥巴马与斯大林和希特勒相提并论，并向其他白痴索要钱财以帮助一位尼日利亚王子。除了赋予永生和让我们每个人几乎无所不知之外，奇点是否也会为人们传播人类数万年来追求的贪婪、贪欲和仇恨提供终极途径？别管人工智能杀我们了，我仍然担心其他人类。
2. 你在乎任何事情吗？
有什么能说明一种远超我们智能的智能不会发现生命的无意义，成为虚无主义者，然后关闭自己？或者，如果它太聪明了，它根本不在乎人类？会议上的每个人都预测人工智能会非常“需要”人类，但没有人能回答为什么人工智能不会同样有可能脱离人类，而不是与之互动。
1. 最后，如果发生了一场奇点，却无人响应，那又如何？
在她的演讲之后，安娜·萨拉蒙告诉我，奇点会在几分钟到几年内影响到世界上的每一个人。当她告诉我时，我想到了这些图片。
去年，一名飞行员在亚马逊深处发现了一个未被接触过的部落。在南美洲、亚洲和非洲的部分地区，有些人过着 300 年来变化不大的生活方式，更不用说 30 年了。为什么奇点会有所不同？当然，我可以想象在上西区（Upper West Side）有人植入脑芯片连接到更高的智能，但需要多久才能让这项技术普及到南布朗克斯（South Bronx）？或者索马里（Somalia）？或者阿富汗（Afghanistan）？
如果奇点只影响一小部分人类，而其他人要么负担不起，要么根本不关心参与，那么奇点承诺的超人类主义未来会怎样？奇点是否只是为人类设置了另一个贫富、南北问题的翻版？又是别人，不是机器人，我担心的是他们。
好了，以上就是我们对 2009 年奇点峰会的报道。希望这次会议能让大家有所思考，一如既往，我迫不及待地想听听大家的看法。感谢大家关注这些帖子，请记住，当奇点来临时，请选择蓝色药丸，你会更快乐。
