机器人会继承地球吗？
根据 Will Robots Inherit the Earth? 百度自动翻译
机器人会继承地球吗？
马文明斯基 （科学美国人，1994年10月---经过一些小修改）
（科学美国人，1994年10月---经过一些小修改）
早睡早起，使一个人健康，富裕，聪明。 - - 本杰明·富兰克林
每个人都想要智慧和财富。然而，在我们实现这些目标之前，我们的健康往往会发 为了延长我们的生活，改善我们的思想，未来我们将需要改变我们的身体和大脑。为此，我们首先必须考虑正常的达尔文进化如何将我们带到现在的位置。然后我们必须想象未来更换磨损的身体部位可以解决大多数健康问题。然后我们必须发明策略来增强我们的大脑并获得更多的智慧。最终，我们将完全取代我们的大脑 - 使用纳米技术。一旦从生物学的局限性中获益，我们将能够决定我们的生命长度 - 选择不朽 - 并选择其他无法想象的能力。
在这样的未来，获得财富不会成为问题; 麻烦在于控制它。显然，这些变化很难设想，许多思想家仍然认为这些进步是不可能的 - 特别是在人工智能领域。但是，制定这种转变所需的科学已经在形成，现在是时候考虑这个新世界会是什么样的了。
健康长寿。
这样的未来不能通过生物学来实现。最近，我们学到了很多关于健康以及如何维持健康的知识。我们为特定疾病和残疾设计了数千种特定疗法。但是，我们似乎没有增加我们寿命的最大长度。富兰克林生活了84年，除了流行的传说和神话之外，没有人生活过那么长的时间。根据加州大学洛杉矶分校医学院病理学教授罗伊沃尔福德的估计，古罗马人的平均寿命约为22岁; 在1900年发达国家大约有50个，现在大约是75个。尽管如此，这些曲线中的每一个似乎都在115年左右急剧终止。几个世纪以来医疗保健的改善对这一最大值没有影响。为什么我们的生命如此有限？答案很简单：自然选择有利于后代最多的人的基因。这些数字往往随着世代的数量呈指数增长 - 因此这有利于早期繁殖者的基因。进化通常不利于延长生命的基因超过成年人需要照顾年轻人的数量。事实上，它甚至可能有利于不必与父母竞争的后代。这种竞争可能促进导致死亡的基因的积累。例如，在产卵后，地中海章鱼（O。Hummelincki）立即停止进食并饿死。如果我们除去某个腺体，章鱼继续吃，并且寿命是两倍。许多其他动物在停止繁殖后很快就会死亡。例外情况包括那些长寿的动物，
我们人类似乎是最长寿的温血动物。选择压力可能导致我们目前的寿命几乎是我们其他灵长类动物亲属的两倍？这与智慧有关！在所有哺乳动物中，我们的婴儿是最难以自己生存的。也许我们不仅需要父母，还需要祖父母，以照顾我们并传递宝贵的生存秘诀。即使有这样的建议，我们可能会屈服于死亡的原因很多。一些死亡是由感染引起的。我们的免疫系统已经发展出多种方式来应对大多数此类疾病。然而，不幸的是，那些完全相同的免疫系统经常通过治疗我们自己的各个部分来伤害我们，好像它们也是传染性入侵者一样。这种失明会导致糖尿病，多发性硬化症等疾病，
我们也受到伤害，我们的身体无法修复。也就是说，事故，饮食不平衡，化学毒物，热，辐射和各种其他影响可能使细胞内的分子变形或化学改变，使它们无法发挥作用。通过更换有缺陷的分子可以纠正其中一些错误。但是，当替换率太慢时，错误会累积。例如，当眼睛的镜片蛋白质失去弹性时，我们失去了聚焦的能力，需要双焦眼镜 - 富兰克林的发明之一。
死亡的主要原因是遗传基因的影响。这些基因包括那些似乎主要负责心脏病和癌症的疾病，两种最大的死亡原因，以及无数其他疾病，如囊性纤维化和镰状细胞性贫血。新技术应该能够通过寻找替代这些基因的方法来预防这些疾病。
也许最糟糕的是，我们的基因系统工作方式存在固有缺陷。基因和细胞之间的关系非常间接; 没有蓝图或地图来指导我们的基因建立或重建身体。随着我们对基因的了解越来越多，我们希望能够纠正，或者至少推迟许多困扰我们晚年的疾病。
最有可能的是，最终的衰老在所有生物体中都是不可避免的。可以肯定的是，某些物种（包括鱼类，陆龟和龙虾的某些品种）似乎没有随着年龄的增长而显着增加死亡率。这些动物似乎主要死于外部原因，如捕食者或缺乏食物。尽管如此，我们还没有生存长达200年的动物的记录 - 尽管这并不能证明不存在。沃尔福德和其他许多人认为精心设计的饮食，一种严重限制热量的饮食，可以显着增加人的寿命 - 但不能阻止我们的最终死亡。
生物磨损。
随着我们对基因的了解越来越多，我们希望能够纠正，或者至少推迟许多困扰我们晚年的疾病。然而，即使我们找到针对每种特定疾病的治疗方法，我们仍然需要处理“磨损”的一般问题。每个细胞的正常功能涉及数千个化学过程，每个化学过程有时会产生随机错误。我们的身体使用多种矫正技术，每种技术都由特定类型的错误触发。然而，这些随机错误以许多不同的方式发生，没有低级方案可以纠正它们。
问题是我们的遗传系统不是为长期维持而设计的。基因和细胞之间的关系非常间接; 没有蓝图或地图来指导我们的基因建立或重建身体。为了修复更大规模的缺陷，身体需要某种目录来指定哪些类型的细胞应该位于何处。在计算机程序中，很容易安装这种冗余。许多计算机维护其最关键的“系统”程序的未使用副本，并定期检查其完整性。然而，没有动物像计划一样进化，大概是因为这样的算法不能通过自然选择发展。麻烦的是纠错然后会停止变异 - 这最终会减慢动物的进化速度'
我们可以通过改变一些基因来生活几个世纪吗？毕竟，我们现在与我们的进化亲属，大猩猩和黑猩猩不同，只有几千个基因 - 然而我们的生活几乎是其两倍。如果我们假设这些新基因中只有一小部分导致寿命延长，那么这些基因可能不会超过一百个左右。尽管如此，即使事实证明这是真的，也不能保证通过改变另外一百个基因来获得另一个世纪。我们可能只需改变其中的一小部分 - 或者我们可能需要改变更多的东西。
制造新基因并安装它们正在慢慢变得可行。但我们已经在利用另一种方法来对抗生物磨损：用生物或人工替代品替换每个可能失败的器官。一些替代品已经是常规的。其他人即将到来。心脏只是聪明的泵。肌肉和骨骼是马达和横梁。消化系统是化学反应器。最终，我们将解决与移植或更换所有这些部件相关的问题。
当我们考虑更换大脑时，移植手术无效。你不能简单地将你的大脑换成另一个人并保持同一个人。您将失去构成您身份的知识和流程。尽管如此，我们也许可以通过移植组织培养的胎儿细胞来取代某些已经磨损的大脑部分。这个程序不会恢复丢失的知识 - 但这似乎并不重要。我们可能以不同的形式将每个知识片段存储在几个不同的地方。大脑的新部分可以重新训练并与其他部分整合 - 其中一些甚至可能自发发生。
人类智慧的局限。
甚至在我们的身体磨损之前。我怀疑我们遇到了大脑的局限。作为一个物种，我们似乎已经在我们的智力发展中达到了一个高原。没有迹象表明我们变得越来越聪明。阿尔伯特爱因斯坦是比牛顿还是阿基米德更好的科学家？近年来有剧作家是莎士比亚还是欧里庇得斯？我们在两千年里学到了很多东西，但是很多古老的智慧似乎仍然是合理的 - 这使我怀疑我们没有取得多大进展。我们仍然不知道如何处理个人目标与全球利益之间的冲突。我们做出重要决定是如此糟糕，只要我们能够，我们就会把不确定的事情留给我们。
为什么我们的智慧如此有限？是因为我们没有时间学习，或者我们缺乏足够的能力？是因为，在流行的传说中，我们只使用了一小部分大脑？更好的教育能帮助吗？当然，但只有一点。即便是我们最好的天才学习的速度也不会超过其他神童的两倍。一切都需要我们太长时间才能学习，因为我们的大脑非常缓慢。它肯定会有更多的时间，但长寿是不够的。像其他有限的东西一样，大脑必须达到它可以学到的东西的某些限制。我们不知道这些限制是什么; 也许我们的大脑可以继续学习几个世纪。但最终，我们需要增加他们的能力。
我们越了解我们的大脑，我们就会找到更多改善它们的方法。每个大脑都有数百个专门区域。我们只知道每个人做了什么 - 但是一旦我们发现任何一个部分如何工作，研究人员将试图设法扩展该器官的能力。他们还将设想生物学从未提供过的全新能力。随着这些发明的积累，我们将尝试将它们连接到我们的大脑 - 可能通过数百万个微电极插入到称为胼call体的大神经束中，这是大脑中最大的数据总线。随着进一步的进步，大脑的任何部分都不会超出附加新配件的范围。到底，
毋庸置疑，在这样做的过程中，我们将把自己变成机器。
这是否意味着机器将取代我们？我觉得用“我们”和“他们”来思考是没有多大意义的。我更喜欢Carnegie-Mellon大学的Hans Moravec的态度，他建议我们将未来的智能机器视为我们自己的“思想孩子”。
在过去，我们倾向于将自己视为进化的最终产物 - 但我们的进化并未停止。实际上，我们现在正在迅速发展 - 尽管不是以熟悉的，缓慢的达尔文式方式。现在是我们开始思考新兴身份的时候了。我们现在可以基于可以利用明确的计划和目标的新的“非自然选择”来设计系统，并且还可以利用所获得的特征的继承。进化论者花了一个世纪来训练自己以避免这些想法 - 生物学家称他们为'目的论'和拉马克人 - 但现在我们可能不得不改变这些规则！
取代大脑
我们学到的几乎所有知识都体现在我们大脑内的各种网络中。这些网络由大量微小的神经细胞组成，甚至还有大量称为突触的较小结构，它们控制信号从一个神经细胞跳到另一个神经细胞。为了替代你的大脑，我们需要知道你的每个突触如何与它所连接的两个细胞相关。我们还必须知道这些结构中的每一种如何响应各种电场，激素，神经递质，营养素和其他活跃于其邻域的化学物质。你的大脑含有数万亿个突触，所以这是一个不小的要求。
幸运的是，我们不需要知道每一分钟的细节。如果是这样的话，我们的大脑就不会起作用了。在生物有机体中，通常每个系统都发展为对其所依赖的较小子系统中发生的事情的大多数细节不敏感。因此，复制功能性大脑，应该足够复制每个部分的功能，以产生其对其他部分的重要影响。
假设我们想要复制包含万亿个组件的机器，例如大脑。如果我们必须分别构建每个组件，今天我们不能做这样的事情（即使我们配备了必要的知识）。但是，如果我们有一百万台建筑机器，每台机器每秒可以生产一千个零件，我们的任务只需几分钟。在未来的几十年中，新的制造机器将使这成为可能。目前大多数制造都是基于塑料散装材料。相比之下，被称为“纳米技术”的领域旨在通过将每个原子和分子精确地放置在我们想要的位置来构建材料和机械。
通过这样的方法，我们可以制造真正相同的部件 - 从而摆脱妨碍传统制造机器的随机性。今天，例如，当我们尝试蚀刻非常小的电路时，电线的尺寸变化太大，以至于我们无法预测它们的电气特性。但是，如果我们可以精确定位每个原子，那么这些导线将无法区分。这将导致当前技术永远无法制造的新型材料; 我们可以赋予它们巨大的力量或新的量子特性。这些产品反过来将导致计算机像突触一样小，具有无与伦比的速度和效率。
一旦我们可以使用这些技术来构建在原子尺度上运行的通用装配机器，就应该迅速取得进一步的进展。如果这台机器需要一个星期来制作一份自己的副本，那么我们可以在不到一年的时间内获得10亿份。
这些设备将改变我们的世界。例如，我们可以对它们进行编程以制造高效的太阳能收集装置并将它们应用于附近的表面，以便它们可以自己供电。通过这种方式，我们可以像现在种植树木一样种植微型工厂。在这样的未来，我们在获得财富方面没有什么困难，而是在学习如何控制财富方面。特别是，在处理可能能够自我复制的事物（例如我们自己）时，我们必须始终保持谨慎。
人类记忆的极限。
如果我们想考虑增强我们的大脑，我们可能首先会问一个人今天知道多少。Bell Communications Research的Thomas K. Landauer回顾了许多实验，其中人们被要求阅读文本，查看图片，听取文字，句子，短段音乐和无意义音节。他们后来以各种方式进行测试，看看他们记得多少。在这些情况中，没有一个人能够学习，并且后来记住，在任何延长的时间段内，每秒超过大约2比特。如果你可以将这个速率保持在每天12小时100年，那么总量将大约为30亿比特 - 比我们今天在普通的5英寸光盘上存储的数量少。在十年左右的时间里，这个数量应该适合单个计算机芯片。
虽然这些实验与我们现实生活中的实验并不太相似，但我们没有任何确凿证据表明人们可以更快地学习。尽管那些有着“摄影记忆”的流行传说，但似乎没有人一字一句地掌握，只有一百本书或一本主要百科全书的内容。莎士比亚的全部作品大约有1.3亿比特。Landauer的限制意味着一个人需要至少四年才能记住它们。我们没有充分的基础估计我们需要多少信息来执行诸如ainting或滑雪等技能，但我认为没有任何理由说明为什么这些活动不应受到类似的限制。
大脑被认为包含了一百万亿个突触的序列 - 这应该留下足够的空间容纳那几十亿个可重复的记忆。有一天，使用纳米技术将这么多的存储空间构建成像豌豆一样小的包装应该是可行的。
智力的未来。
一旦我们知道我们需要做什么，我们的纳米技术应该使我们能够构建替代的身体和大脑，而不会受限于以“实时”的爬行速度工作。我们的计算机芯片中的事件已经比脑细胞中的事件快了数百万倍。因此，我们可以设计我们的“思想 - 孩子”，比我们快一百万倍。对于这样的存在，半分钟似乎与我们的一年一样长，每一小时只要一整个人的一生。
但这样的存在真的存在吗？许多思想家坚信，机器永远不会有像我们这样的想法，因为无论我们如何构建它们，它们总是缺乏一些重要的成分。他们用各种名称来称呼这个本质 - 如感知，意识，精神或灵魂。哲学家们写完整本书来证明，由于这种缺陷，机器永远不会感受或理解人们所做的各种事情。然而，每本书中的每一个证据都有缺陷，即以某种方式假设它声称要证明的东西 - 存在一些没有可检测属性的神奇火花。
我对这些论点没有耐心。我们不应该寻找任何一个缺失的部分。人类的思想有许多因素，我们制造的每台机器都缺少数十个或数百个！将今天的计算机与我们称之为“思考”的计算机进行比较。显然，人类思维更灵活，更有资源，更具适应性。当在当前的计算机程序中出现任何问题时，机器将停止或产生一些错误或毫无价值的结果。当一个人思考时，事情也经常出错 - 但这很少会阻止我们。相反，我们只是尝试别的东西。我们以不同的方式看待我们的问题，并切换到另一种策略。人类的思维以各种方式运作。是什么赋予我们这样做的权力？
在我的桌子上躺着一本关于大脑的教科书。它的索引有大约6000行，涉及数百个专业结构。如果你碰巧伤害其中一些，你可能会失去记住动物名字的能力。另一种伤害可能会让你无法制定任何远程计划。另一种损害可能会使你容易突然发出肮脏的话语，因为机器的损坏通常会审查那种表达方式。我们从成千上万的类似事实中知道大脑包含多种机器。
因此，您的知识以各种形式表示，存储在大脑的不同区域，供不同的过程使用。这些陈述是什么样的？在大脑中，我们还不知道。然而，在人工智能领域，研究人员已经找到了几种有用的方法来表示知识，每种方法都更适合某些目的，而不是其他目的。最受欢迎的使用“If-Then”规则的集合。其他系统使用称为“框架”的结构 - 类似于填写的形式。然而，其他程序使用类似网络的网络或类似树状脚本的方案。有些系统将知识存储在类似语言的句子中，或存储在数学逻辑的表达中。程序员通过尝试确定哪种表示最能完成手头的任务来启动任何新工作。通常情况下，计算机程序仅使用单个表示，如果这应该失败，则系统会崩溃。这个缺点证明了计算机并没有真正“理解”他们正在做什么的普遍抱怨。
但理解是什么意思？许多哲学家已经宣称，理解（或意义或意识）必须是一种基本的，基本的能力，只有活着的头脑才能拥有。对我而言，这种说法似乎是“物理嫉妒”的症状 - 也就是说，他们嫉妒物理科学如此擅长如此少地解释原则。物理学家通过拒绝所有看似过于复杂的解释，而不是搜索简单的解释，做得非常好。然而，当我们处理大脑的完整复杂性时，这种方法不起作用。以下是我在“心灵社会”一书中对理解所说的内容。
“如果你只用一种方式理解某些东西，那么你根本就不会理解它。这是因为，如果出现问题，你就会陷入一种无处可去的想法中。什么对我们意味着什么取决于我们如何将它与我们所知道的所有其他事物联系起来。这就是为什么当有人“死记硬背”时，我们说他们并不真正理解。但是，如果你有几个不同的话。然后，当一种方法失败时，你可以尝试另一种方法。当然，制造太多不加选择的联系会让人心旷神怡。但是，良好关联的表现形式可以让你在脑海中转变想法，从多个角度设想事物，直到找到一个适合你的。这就是我们思考的意思！“
我认为这种灵活性解释了为什么现在对我们来说很容易思考，对计算机很难。在“心灵社会”中，我认为大脑很少只使用单一的表现形式。相反，它始终并行运行多个场景，以便始终可以使用多个视点。此外，每个系统都由其他更高级别的系统监督，以跟踪其性能，并在必要时重新制定问题。由于大脑中的每个部分和过程都可能存在缺陷，我们应该期望找到其他试图检测和纠正此类错误的部分。
为了有效地思考，您需要多个流程来帮助您描述，预测，解释，抽象和规划您的思想应该做什么。我们能够如此好地思考的原因并不是因为我们拥有神秘的火花般的天赋和礼物，而是因为我们雇佣了一致同意的机构社团来阻止我们陷入困境。当我们发现这些社会如何运作时，我们也可以将它们放入计算机内部。然后，如果程序中的一个程序被卡住，另一个程序可能会建议另一种方法。如果你看到机器做这样的事情，你肯定认为它是有意识的。
道德失范
这篇文章承载了我们生育孩子的权利，改变我们的基因，如果我们愿意，就会死。尚无流行的道德体系，无论是以人道主义还是以宗教为基础，都表明自己能够面对已经面临的挑战。有多少人应该占据地球？他们应该是什么样的人？我们应该如何分享可用空间？显然，我们必须改变关于增加孩子的想法。个人现在是偶然受孕的。然而，总有一天，它们可以根据所考虑的欲望和设计“组合”。此外，当我们建立新的大脑时，这些不需要以我们的方式开始，对世界知之甚少。我们的孩子应该知道什么样的事情？我们应该生产多少人 - 谁应该决定他们的属性？
传统的伦理思想体系主要关注个体，就好像它们是唯一有价值的东西。显然，我们还必须考虑更大规模存在的权利和角色 - 例如我们称之为文化的超级人物，以及称为科学的伟大的，不断增长的系统，帮助我们理解其他事物。我们想要多少个这样的实体？我们最需要哪种？我们应该警惕那些陷入抵制所有进一步增长的形式的人。从未见过一些未来的选择：想象一个可以回顾你和我的心态的方案，然后根据共享的经验编译一个新的，合并的思想。
无论未知未来可能带来什么，我们已经在改变制造我们的规则。虽然我们大多数人都会害怕改变，但其他人肯定想摆脱目前的局限。当我决定撰写这篇文章时，我在几个小组中尝试了这些想法并让他们回应非正式民意调查。令我惊讶的是，至少有四分之三的观众似乎觉得我们的生命已经太长了。“为什么有人想要活五百年？难道不是很无聊吗？如果你比你所有的朋友都活得多久怎么办？你会用那么多时间做什么？” 他们问过。似乎他们暗中担心他们不应该活得那么久。我发现令人担忧的是，这么多人都被迫辞职。这样的人可能不会很危险
我的科学家朋友几乎没有这样的担忧 “我想找出无数的东西，我想解决的问题很多，我可以用很多世纪，”他们说。当然，如果它意味着无尽的虚弱，衰弱和对他人的依赖，那么不朽似乎没有吸引力 - 但我们假设健康状态良好。有些人表达了一个更健康的担忧 - 旧的人必须死，因为需要年轻人才能消除他们破旧的想法。但是，如果我认为我们正在接近我们的智力极限，那么这种反应就不是一个好的答案。在我们掌握的智慧海洋中，我们仍然会被那些更大的想法所切断。
机器人会继承地球吗？是的，但他们将是我们的孩子。我们应该关注所有参与进化斗争的生物的死亡和生命。我们的工作是看到所有这些工作最终都不会成为毫无意义的浪费。
