魏知超:人工智能会有自我意识吗？
具体的技术层面我是外行，不懂。这里仅从最基本的原理层面展开，做一些猜想。
人工智能里会诞生出“心灵”吗？阿尔法围棋、《终结者》与《阿凡达》的隐秘关联
人机围棋世纪大战，谷歌人工智能AlphaGo（阿尔法围棋）连胜三局，提前战胜李世石。虽然我更关心的其实是“人工智能+人形机器人”技术，更准确地说是关心什么时候能造出以假乱真的苍老师~(@^_^@)~，但见证历史，心里还是很激动滴！
这几年来人工智能高歌猛进，今天算是又树起了一座里程碑。这不禁又让人有点担心起：人类在未来会不会被人工智能奴役？
毕竟，无数科幻片已经教育我们，如果放任AI发展，人类将要被AI虐成狗：
连X战警都会被AI虐成狗：
在各种科幻片里，我待AI如初恋，AI虐我千百遍。
1.我们到底在怕什么
但仔细琢磨一下这个问题，就不禁要继续问下去：我们怕的到底是怎么样的人工智能呢？
如果未来的人工智能只是像今天的阿尔法围棋一样，只是还要厉害上几百倍，比如说，100个人类世界冠军叠起来也下不过它——我们会害怕这样的人工智能吗？
好像不会。我们其实不是怕人工智能“聪明”，而是怕它“长了心眼”。 我们害怕的，其实是人工智能里最终诞生出了“心灵”。会“计算”不要紧，会“算计”就可怕了。我们不是怕人工智能变聪明，而是怕人工智能变成“人”，人有好有坏，而我们不知道人工智能是好是坏。
2.问题：人工智能里会不会诞生出“心灵”？
那么问题就来了：人工智能里到底会不会诞生出“心灵”？在未来，人工智能会拥有跟人类一样的自我意识吗？他会跟人类里的聪明人一样，有一天忽然仰望星辰，吟诵出“茫茫不可晓，使我长叹喟”的诗篇吗？
我觉得答案是：终有一天，会。因为虽然现在的阿尔法围棋在实现智能的具体算法上，与人类大脑实现同样的事有天壤之别。但在最基本的原理上，它与人类大脑实现智能的途径其实是一致的！沿着这条途径发展下去的话，机器“心灵”的出现只是时间问题。
那么，这条实现智能的途径是什么呢？
我们不妨看一看人类自己，人类的智能是怎么产生的呢？
3.微观的愚蠢里怎么可能诞生出宏观的智慧
这里有一件看上去挺悖论的事情：人的大脑毫无疑问拥有这个星球上最强的智能，可是如果你把大脑打开来看，却又会发现组成它的主要物质——神经细胞所能做的事其实非常愚蠢，无非就是通过释放一些化学物质来传递激活或者抑制的信号，相当于一个个仅仅可以发出0和1这两个信号的发生器。
于是，这就构成了一个悖论：宏观的智能是怎么从微观的“愚蠢”里涌现出来的呢？
4. 液态金属机器人的CPU在哪儿
在科幻名作《终结者2》里，施瓦辛格扮演的T800与他的对手T1000代表了完全不同的两种智能机器人。
在T800的头部有一块CPU，它相当于人类的大脑，T800的各种动作和反应都由这块CPU指挥。在《终结者2》的一个加长版里，有一段公映版删除掉的情节：因为不信任T800，女主角莎拉康纳骗他取出这块CPU，想要毁掉它。在这段镜头里，可以看到CPU一旦被取出，T800就彻底瘫痪了。
可见，T800机器人是一个由中枢集中指挥的系统，CPU就是这个中枢。中枢一旦失灵，整个系统就崩溃了。
而他的对手T1000就完全不一样。T1000全身都是由类似橡皮泥的液态金属组成，把他的头剖开也不会在里面找到CPU以及其他任何功能部件。甚至他的头被T800一拳打烂，也完全不会崩溃，而是从身体另外一个地方重新长出一个头来。
那么T1000如果有CPU的话，它会在哪里呢？
答案藏在詹姆斯.卡梅隆的另一部作品《阿凡达》里。
5.《阿凡达》里的树精
《阿凡达》里有这样一个有趣的设定：科学家发现潘多拉星上的所有树木都是通过根部相连的，它们会通过根部的化学信号来传递信息。
离奇的是，这个由树木组成的庞大网络居然生成了智慧——“爱娃”。
咦？这不就是树成精了吗？
这跟我们大脑里发生的事何其相似。
单颗树木本身的构造相对来说十分简单，即便能够它能发出一些化学信号，信号复杂性应该是非常低的，可能也只是一些类似0、1这样要么激活、要么关闭的电信号而已——正如我们的神经细胞。
但是，如果把这些最简单的0、1信号以网络的形式联结在一起，它们就会形成一个巨大的矩阵，像这样：
如果你稍微了解一点线性代数的知识，就会知道，矩阵是有计算能力的：
输入×矩阵=输出
这意味着，当你把一个输入信号呈现给这个矩阵时，矩阵就会计算出一个与你的输入信号并不相同的输出信号。
换句话说，矩阵会对刺激做出反应。
这是什么？
这，就是智能啊。
《阿凡达》里“树精”爱娃的智慧其实就是这样产生的。一颗颗笨得要死的树只要通过一个足够庞大网络连接在一起，比每棵树本身聪明千百倍的智能就会在这个网络中产生。
6.全身都是CPU
所以，如果《终结者》的T1000有CPU的话，他的CPU其实不在任何一个局部，而是分布在全身。只要他身上的每一个金属粒子可以产生简单的0、1信号，数量极其庞大的金属粒子联结在一起，就会产生出强大的计算能力。
这样看来，与T800那样的中枢管理系统不同，T1000并没有一个中枢管理系统，这个系统中的每一个单元都只贡献了整体计算能力中一个极小的部分，它们平行地相互连接而成的网络才构成了整体的计算能力。
这种去中心化的系统叫做平行分布式系统。
7.大脑内部其实空无一物
奇妙的是，人的智慧其实也就是这样产生的。人脑就是一个平行分布式系统。 美国哲学家和认知科学家丹尼尔·丹尼特说：“如果你仔细看看大脑内部，就发现里面其实空无一物。”[i]
的确如他所说，人脑中的每一个神经细胞比潘多拉星上的树可能还要愚蠢几百倍，它们真的是只能够向和它们连接的其他神经细胞发出激活/抑制这样最简单的0、1电信号。
8.智者就是千百万个相互连接在一起的盲流
如果每一个神经细胞都愚蠢至此，高度发达的智能怎么可能附着在它们之上？
这其中的奥秘就在于，单看每一个神经细胞虽然都愚不可及，但它们的数量太庞大了，大脑中大约有860亿个这样的神经细胞，比这个数字更加惊人的是，神经细胞之间的连接可能达到100万亿个[ii]！
于是大脑中无数个神经细胞发出的0、1信号就组成了一个庞大到不可思议的矩阵，在如此庞大的矩阵中当然完全有可能产生出惊人的计算能力。这种从庞大的连接中涌现出来的计算能力就是人类的智能。智者其实就是千百万个相互连接在一起的盲流。
9.为什么即便脑袋被门夹了，你也仍然是你
这种平行分布式系统有一个巨大的好处就是它的鲁棒性特别好[iii]。鲁棒就是强壮，也就是系统是不是够“皮实”。
中枢控制式的系统是非常脆弱的，只要中枢一出错，整个系统就崩溃，这就是《终结者2》里T800的CPU被取出后的状况。而拥有平行分布式系统的T1000就不会这么脆弱，它是一个特别皮实的机器人，身体上任何一个小部位发生一点变化都不会影响它的生存。
人的大脑也是如此。大脑中的细胞经常发生死亡和更替，还会因为疾病和创伤受损，不过只要不是大面积损伤，大脑的功能就不会整体性地崩塌，作为一个平行分布式系统，它的鲁棒性相当之好。
这是因为大脑的绝大部分功能都不是只由非常集中的几个脑细胞贡献，而是分布在数量相当庞大的一群脑细胞组成的连接中。这一群脑细胞中的少数几个受损，并不会引起这群脑细胞整体功能的大幅改变。当一个矩阵足够庞大的时候，改变矩阵中的一两个值并不会改变它的计算能力。这就是为什么即使被脑袋偶尔被门夹一下，你也仍然是你。
10.“你”就是一个矩阵
整体来看，《终结者2》里施瓦辛格的T800当然更像是人类，因为它全身上下看上去有各种模拟人类的身体器官和组织。但如果只从大脑的角度来看，人类的大脑其实更像T1000。T1000的思考能力并不存在于他身上的任何一个金属粒子中，而是存在于它们的网络连接中。
同样地，人的灵魂也并不存在于哪一个脑神经细胞里，灵魂存在于无数脑神经细胞的网络连接中。
“你”在哪里？你就在脑细胞的神经冲动组成的庞大矩阵里。
你是不是偶尔会疑惑自己有可能像《黑客帝国》里的人类那样活在一个矩阵（Matrix）里？不用想得那么远了，“你”本身就是一个矩阵。
11.机器意识：并非只有大脑才能成为心灵的载体
因此，我们可以回答本文一开始提出的疑问了。从前面的分析就不难推测出，“意识”的载体应该不会仅仅局限于生物性的大脑，理论上它可以从任何足够庞大的平行分布式系统中涌现出来。
既然智能存在于神经网络中，类似神经网络的平行分布式系统就应该是可以模拟出智能的。事实上，阿尔法围棋这个人工智能就是一种“人工神经网络模型”。
这种“人工神经网络模型”就是在计算机里模拟出类似大脑神经元的简单计算单元，然后再定义出把它们连接起来的网络[iv]。它早已被大量应用在很多领域用来智能地解决各种实际问题了。 阿尔法围棋背后的深度神经网络就是它最新颖的成果之一。
再发展下去会如何呢？
在《黑客帝国》第三集（The Matrix Revolutions）里，救世主尼奥开始发现Matrix里的程序也是具有类似人的思维和感情的，甚至发现一直以来帮助人类的先知其实也只是一个程序而已，这让他开始思考灵魂是否只属于人类。
这其实就是本文开头提出的疑问：灵魂的载体必须是有机体吗？
从前面的分析来看，如果在未来的某一天这些模拟人脑的系统最终实现，那么所谓“机器意识”的出现就是必然的。灵魂的载体总有一天会不止仅限于有机体。
12.银河思想者
刘慈欣写过一篇非常出色的短篇小说《思想者》，他在其中“对意识的载体”做出了我所见过的最诗意和最宏大的想象。
小说里的天文学家无意中发现宇宙中的恒星能响应另一颗恒星发出的光线，它们能把另一颗恒星光线中的某种闪烁复制之后再发射出去。而这正像是我们大脑里的神经细胞通过放电来传递信息。
而银河系内有上千亿颗恒星，即使每颗恒星都只是一个像神经细胞这样只懂通过放电来激活或抑制的蠢物，只要它们相互之间可以用这种方式传递信号，这上千亿颗恒星就可以组成一个足够庞大而复杂的系统——没错，正如我们的大脑。
所以银河系竟然是有意识的！
只不过，由于最接近的恒星之间也往往有几光年的距离，人的神经元只需要一瞬间就可以传递完成的信号在银河系尺度上却是以年为单位。
在《思想者》临近结尾的部分，刘慈欣这样写道：
在他们上方，星空依旧。
“‘他’在想什么？”她突然问。
“现在吗？”
“在这34年里。”
“源于太阳的那次闪烁可能只是一次原始的神经元冲动，这种冲动每时每刻都在发生，大部分像蚊子在水塘中点起的微小涟漪，转瞬即逝，只有传遍全宇宙的冲动才能成为一次完整的感受。”
“我们耗尽了一生时光，只看到‘他’的一次甚至自己都感觉不到的瞬间冲动？”她迷茫地说，仿佛仍在梦中。
“耗尽整个人类文明的寿命，可能也看不到‘他’的一次完整的感觉。”
“人生苦短啊。”
“是啊，人生苦短……”
“一个真正意义上的孤独者。”她突然没头没尾地说。
“什么？”他不解地看着她。
“呵，我是说‘他’之外全是虚无，‘他’就是一切，还在想，也许还做梦，梦见什么呢……”
仰望着星辰的，
除了我们，
也许还有星辰们自己。
文：@魏知超
