查看“赫拉利《未来简史》:大分离”的源代码

{{返回未来简史目录}}
　　上一章简单回顾了近来的科学发现对自由主义哲学有何伤害，现在 则该来审视这些发现对实际生活有何影响。A由主义推崇自由市场和民 主选举，是因为自由主义相信每个人都独一无二、各有价值，而且每个 人的自由选择就是权威的本源。但在21世纪，有三项“务实”的发展， 可能会让这种信念成为明日黄花：
1.	人类将会失去在经济和军事上的用途，因此经济和政治制 度将不再继续认同人类有太多价值—
2.	社会系统仍然认为人类整体有其价值，但个人则无价值
3.	社会系统仍然会认为某些独特的个人有其价值，但这些人 会是一群超人类的精英阶层，而不是一般大众
让我们仔细审视这三个威胁。第一，科技发展将使人类不再具备 经济和军事上的用途：这一点虽然不会从哲学层面推翻自由主义，但在 实际生活中，很难想象民主制度、自由市场和其他自由主义制度如何能 承受这记打击。毕竟，自由主义之所以能成为意丨只形态的主流，并不只 是因为它的哲学论证最合理，更是因为它赋予每个人价值，这一点在政 治、经济和军事上大有好处。在现代工业战争的大规模战场、现代工业 经济的大规模生产线上，每个人都很重要。只要能拿起步枪或是扳动拉 杆，每双手都有价值。
1793年春天，欧洲各王朝派出军队，希望将法国大革命扼杀于襁 褓之中。巴黎革命分子则宣布全国总动员，发动第一波全面战争。8月 23日，法国国民公会（National Convention)下令：“从现在起到一切  
敌人被逐出共和国领土时止，全法国人民始终处于征发状态，以便为军 事服务。动员是普遍的。18岁至25岁的未婚公民或无子女的鳏夫应首 先参军，青年人则去打仗；已婚男子则制造武器和运送粮食；妇女则制 造帐篷、衣服和服务于医务；儿童则将旧布改成绷带；老年人则至广场 鼓舞战士们的勇气，宣传痛恨国王和共和国的统一。” 1
法国大革命最著名的文件《人权和公民权宣言》（The Declaration of the Rights of Man and of the Citizen )认定所有公民拥有同等价值，享 有平等政治权利。但与国民公会所下的命令两相对照，足堪玩味。在这 历史上的同一时刻，一方面宣告普世人权，另一方面下令不分男女老幼 全国总动员，难道真是巧合？虽然学者对于两者究竟有何确切关系还多 有争辩，但在接下来的两个世纪中，一种维护民主的常见论点认为让公 民拥有政治权利是件好事，因为民主国家的士兵和工人会比独裁政权中 的士兵和工人表现更好。据称，让人民享有政治权利，就能增强动机和 进取心，而这在战场上和1：厂里都大有益处.
哈佛大学校长查尔斯.艾略特（Charles W. Eliot，任期为1869— 19〇9年）曾于1917年8月5日在《纽约时报》发文：“民主军队的战 斗力高于用贵族方式组织、独裁方式统治的军队……由民众决定立法、 选举公务员、解决和平与战争问题的国家，比起靠世袭或全能的神所委 托的独裁者，前者的军队战斗力也要更强。” 2
第一次世界大战后，基于类似的理由，妇女获得了各项权利。各 国意识到女性在这场全面工业战争里扮演重要角色，认为有必要在和 平时期也赋予女性政治权利。因此在1918年，美国总统伍德罗•威尔 逊支持女性拥有投票权，向参议院表示，在第一次世界大战中，“若不 是因为有女性在各个领域提供服务，美国或其他任何参战国家都不可 能赢得胜利；而且这里指的不只是我们一般习于见到的女性工作领域， 而是所有过去属于男性的工作领域。如果不让女性享有尽可能完整的 权利，我们不仅会失去民众的信任，更是咎由自取” 3。
但到了 21世纪，不论男女，大多数人都可能不再具有军事和经济 上的价值。两次世界大战投入大量人力的时代已经过去，21世纪最先 进的军队，主要靠的是尖端科技。现在的战争需要的不再是人数无上限 的炮灰，而是精挑细选少数训练精良的士兵，甚至人数更少的特种部队 超级战士，加上几个知道如何生产和使用先进科技的专家。由无人机和 蠕虫病毒组成的高科技部队，正在取代20世纪的人海战队，而指挥作 战的将军也将越来越多关键决定交给算法处理
有血有肉的战士除了行事难以预测，还容易受到恐惧、饥饿和疲 劳的影响，思考及行动的速度也越来越无法赶上现代战争的步调。从古 巴比伦的尼布甲尼撒二世到现代伊拉克的萨达姆•侯赛因，虽然科技已 有各式进展，但战争仍然处于人类的步调:> 讨论得花上几小时，一场战 役得花上几天，战争得拖上几年。但网络战一场战争的时间可能只有几 分钟。在网络指挥中心值勤的中尉发现有异常状况后，就算立刻致电上 级，上级再立刻上报白宫，最后还是只能一声哀叹，因为等到总统接到 消息，这场战争早已一败涂地。只要短短几秒，计划精密的网络攻击就 能够1上全美电网断电，破坏航空管制中心，造成核电厂和化学工厂大量 事故，干扰警察、军队和情报通信网络，甚至是抹除所有金融记录，让 数万亿美元就这样消失于无形，没人知道究竟谁拥有什么。这种时候， 唯一让民众还不会歇斯底里的原因，就是网络、电视和广播也全面断 线，所以大家连情况有多惨都不知道。
如果是比较小的规模，假设空中有两架无人机正在交战。其中一架 需要先接收到远方地堡内操作人员的命令才能开火，另一架则能完全自 主开火。你觉得哪一架胜算大？假设到了 2093年，已经老旧迂腐的欧 盟决定派出无人机和机器人来对抗新时期的法国大革命，新的巴黎公社 可能会招募所有的黑客、计算机和智能手机参战，但大多数人大概已经 都派不上用场，顶多只能当人肉盾牌。这是事实：在今天的许多不对称 冲突中，大多数公民只能作为各式先进武器的人肉盾牌：
 
图43左图：1916年，索姆河战役（Battle of the Somme)中的作战士兵; 右图：无人机

此外，就算不管胜败问题，单单为了正义，也该支持用机器人和 无人机取代士兵和飞行员。人类士兵可能犯下谋杀、强奸、劫掠等罪 行，而且就算他们守规矩，误杀平民仍然在所难免。相较之下，如果是 搭载伦理算法的计算机士兵，遵守国际刑事法院最新规约的可能性就高 多了。
经济领域也有相同情形，能够举起锤子或按下按钮的能力已经不如 以往有价值。这也就危害了ft由主义和资本主义之间重要的合作关系。 在20世纪，自由主义认为伦理和经济能够兼得，保护人权和自由既是 伦理道德的必要之举，也是经济发展的关键因素自由主义认为，英美 法等国正是因为开放经济和社会而繁荣，而如果土耳其、巴西或中国也 想达到同样程度的繁荣，就该起而效法。许多甚至是绝大多数的专制君 主或军人政府，也是出于经济而非道德因素，才最终愿意走向开放。
到了 21世纪，自由主义的影响力将会大不如前。随着大众在经济 上不再重要，仅靠伦理道德，是否足以保护人权和自由？无法从中获得 经济利益后，精英阶层和政府还会认定每个人都有价值吗？过去有许 多事情只有人类才能做得到，但现在机器人与计算机正迎头赶上，可 能很快就会在多数的任务上超越人类。确实，计算机的运作方式与人 类的行为方式非常不同，而且看来短期内计算机也不会变得更像人类， 特别是应该并不会获得意识或是具备情绪和感觉。过去半个世纪，计 算机智能（computer intelligence)已经有了巨大进展，但在计算机意识 (computer consciousness)方面却仍在原地踏步。据我们所知，2016年 的计算机并未比20世纪50年代的计算机原型意识更强。然而，一场重 大革命一触即发。“智能”即将幵始与“意识”脱钩，人类因此面临失 去经济价值的危险。
高度的智能与发达的意识一向是两个形影不离的概念。必须是具有 意识的个体，才能执行需要高度智能的任务，例如下棋、开车、诊疗， 或是辨认出恐怖分子。然而，我们正在开发新型的“无意识智能”，做 起这些事来比人类更快更好。原因在于，这些任务是基于“模式识别”， 而无意识的算法很快就能在这一点上超越人类。
科幻电影通常假设计算机如果想赶上甚至超越人类的智能，就必须 发展出意识。但真正的科学却有另一种看法。想达到超级智能可能有多 种方式，并不是每一种都需要通过意识。数百万年来，生物进化一直顺 着意识这条道路缓缓前行，但非生物的计算机却可能完全不会走这条窄 路，而是走向另一条通往超级智能的捷径。这就产生了一个新问题：智 能和意识，究竟哪个才真正重要？在两者仍然携手同行时，讨论两者的 价值孰高孰低，大概只会是哲学家的有趣消遣。但在21世纪，这正成 为一个急迫的政治和经济问题。至少对军队和企业来说，答案再简单不 过：智能是必要的，但意识可有可无。
军队和企业需要具有智能的代理人才有办法运作，但这样的代理 人却不见得需要有意识和主观体验。举例来说，如果是有血肉之躯的出 租车司机，个人有意识的体验绝对比毫无感觉的自动驾驶汽车丰富。出 租车司机可以一边在首尔繁忙的街道上开车，一边享受音乐。他抬头望 见星空，思考着宇宙的奥秘，内心因敬畏豁然开朗。而看到自己的小宝 宝跨出第一步，他的眼睛也可能充满喜悦的泪水。只不过，这一切都不 是社会系统需要出租车司机具备的特质。社会系统需要的只是把人从
A点运到B点，而且要最快、最安全、成本最低。就这一点而言，自动 驾驶汽车很快就能做得比人类司机更好，就算它不能享受音乐，也不会 因为存在的奥秘而深感敬畏，又有什么关系呢？
我们回想一下，马匹在工业革命开始后命运如何。任何一闪农场里 的马，不论是在嗅觉、爱的能力、认人的能力、跳过栅栏的能力或是其 他上千件事情上，绝对都远高于史上首款平民汽车福特T型车，或是价值 百万美元的兰博基尼。然而，马匹仍然被汽车取代，原因就在于汽车在 社会系统真正需要的那少数几个领域中胜出出租车司机很有可能也会 步马匹的后尘。
事实上，如果规定所有车辆都不得由人驾驶，并将整个交通控制 权交给计算机算法，就能将所有车辆连接成单一网络，大大降低车祸发 生率。2015年8月，谷歌实验中的无人驾驶汽车发生车祸。当时这辆 车正接近一个十字路口，发现有位行人想过马路，于是刹了车。但接着 这辆车就遭到后方车辆追尾，后面那辆车的人类司机心不在焉，可能正 思索着宇宙的奥秘，结果就忘了看路。如果两辆车都是由互相连接的计 算机来指挥，这种事就不可能发生。控制驾驶的算法能够清楚掌握每辆 车在路上的位置和行动方向，绝不可能允许自己操纵的两辆车就这样相 撞。如果能有这样的系统，就能大幅节省时间和金钱，并且拯救人的生 命；只不过，这也会剥夺人类开车的体验，砍掉几千万人的工作机会。4
一些经济学家预测，人类若不能变得更强大，迟早会变得完全没 有用途。机器人和3D打印已经开始取代人力，就像以前的制衣等手丁. 业，而高智能的算法也即将在白领职业中掀起同样的风潮3不久之前， 银行丁.作人员和旅行社工作人员似乎还不受自动化影响，但现在他们却 濒临失业。如果我们只要用智能手机就能买到机票，为何还需要旅行社 人员？
股票交易员同样面临这种危险。现在大多数的金融交易都已经通 过算法来管理，只要一秒，能处理的数据量就比个人花上一年处理的数
据量还要大，而且瞬间就能做出反应。2013年4月23日，叙利亚黑客 人侵美联社官方推特账户。当天13点07分，他们发出推文，称白宫遭 到攻击、奥巴马总统受伤。各个持续监控所有新闻媒体的交易算法瞬间 做出反应，疯狂抛售股票。道琼斯指数如同自由落体，短短60秒大跌 150点，相当于有1360亿美元瞬间蒸发！ 13点10分，美联社澄清，表 示该推文并不属实。于是算法开始倒车，到了 13点13分，道琼斯指数几 乎已经完全收回先前的损失。
2010年5月6日，纽约证券交易所还经历过更剧烈的震荡。在 14点42分到14点47分这不过五分钟的时间内，道琼斯指数狂跌 1000点，1万亿美元烟消云散。但接着，只花了三分多钟，指数就回到 了狂跌前的水平。把我们的钱交给超高速计算机程序来操作，就是会发 生这种事。这次事件被称为“闪电崩盘”（Flash Crash)，而专家还在努 力研究这一切究竟是怎么回事。他们知道一定是算法出了问题，但无法 确认错在哪里。美国部分交易商已经对算法交易（ algorithmic trading) 提起诉讼，认为这种做法是对人类的歧视，人类在反应速度上绝不可能 与之匹敌。仅是讨论这是否真正构成侵权，就会给律师带来大量的工 作，当然也有大量的收入。5
这里讲的律师也不一定是人。在电影和电视上，似乎律师整天在 法庭上喊着“反对”，然后发表慷慨激昂的演讲。然而，大多数普通律 师得花上最多时间的，反而是翻阅海量文件，寻找判例、漏洞，或是那 一丝丝可能相关的证据。有些得忙着找出某人被杀的当晚究竟发生了 什么事，也有些忙着写出厚度惊人的商业合约，确保客户避开任何目前 可知的风险。如果有一天，复杂的搜寻算法只要一天时间，•找到的判例 就能比一个人花一辈子找到的还要多，而且只要按个按钮进行脑部扫 描，就能戳破所有的谎言和欺骗，这些律师该何去何从？仅靠观察脸部 表情和说话语调，就算是经验极其丰富的律师和侦探，也很难准确判断 对方是否心口一致。然而，说谎用的脑部区域和说实话的脑部区域大有 不同，虽然目前尚未实现，但已经可以想象，在不太遥远的未来，功能 性磁共振成像扫描就能用作几乎绝对精准的测谎议。这样一来，几百万 的律师、法官、警察和侦探还能做什么？岂不是得回学校再学个新的 专业？ 6
但等到他们进了教室，却很可能发现等着他们的还是算法。Mindojo 之类的公司，正在开发互动算法，不只能教授数学、物理、历史，还能 同时研究教授对象这个人。这种数字教师会仔细监测我答了什么，花了 多长时间。一段时间后，它们就能判断出我个人独特的优缺点，也知道 什么能让我精神一振，什么会叫我眼皮下垂。它们可以用最适合我人格 类型的方式来教我热力学或几何学，无须担心这种方式并不适合其余 的99%的学生。这些数字教师永远不会失去耐心，永远不会对我大吼 大叫，也永远不会罢工。问题在于，都已经有了这样有智慧的计算机程 序，我为什么还需要学习热力学或几何学？ 7
就连医生也无法幸免。大多数医生最主要的任务，就是正确诊断 疾病，制定最好的治疗方案。如果我因发烧、腹泻去诊所，病因可能是 食物中毒。然而，同样的症状也可能是因为肠胃病毒、霍乱、痢疾、疟 疾、癌症，或是什么未知的新疾病。医生只有几分钟时间就要做出正确 的诊断，因为我的保险就只付得起这么多时间。所以，医生只能问几个 问题，或许再快速做个简单检查，接着就得用这少得可怜的信息，结合 我的病史以及所有人类的疾病来做出判断。唉，不管医生再怎么认真， 又怎么可能记得住我以前生过什么病、做过什么检查？同样，没有哪位 医生能够熟悉每种疾病和药物，也不可能读过医学期刊上的所有最新文 章。最重要的是，医生如果累了、饿了，甚至生病，都会影响判断。也 就难怪医生有时会误诊，又或是给出的并非最理想的疗法
现在让我们来看看IBM著名的超级计算机“沃森”，这套人工智能 系统2011年在电视益智抢答节目《危险边缘》中获胜，击 败该节目史上最强的两位参赛者。而目前“沃森”的工作则严肃许多， 主要就是诊断疾病。像“沃森”这样的人工智能，比起人类医生会有某 些巨大的潜在优势。第一，人工智能可以将史上所有已知疾病和药物的 信息全部存在数据库里而且这种数据库还能每天更新，不仅包括最新 研究结果，还能接收到世界上所有相关诊所和医院收集到的医疗统计 信息。
 

第二，“沃森”不仅能熟知我的整个基因组、完完整整的病史，甚 至连我的父母、兄弟姐妹、表亲、邻居和朋友的基因组和病史，它也一 样了如指掌。“沃森”能立刻知道我是不是最近去过热带国家，是否胃 部感染痼疾，家族是否有肠癌病史，又或者是不是最近全城的人都在抱 怨腹泻。
第三，“沃森”永远不会说它累了、饿了或病了，它能随时为我诊 断。我可以舒舒服服坐在沙发上，回答几百个问题，告诉“沃森”我究 竟感觉如何。对大多数患者来说（或许除了疑病症患者），这会是个天 大的好消息。但如果你是今天进医学院学习，希望自己在20年后能当 个家庭医生，或许就该重新考虑。有了这样的“沃森”，哪还有福尔摩
斯出场的机会？
这种威胁影响的不仅是家庭医生，就连专科医生也无法幸免。而且 事实上，钻研于相对专精领域（如癌症诊断）的医生，可能更容易被取 代。最近一项实验中，计算机算法能够正确诊断90%的肺癌病例，但 人类医生的正确率只有50%。8所谓的未来，其实已经来临。目前，用 专门算法处理电子计算机断层扫描（CT)和乳房X射线照相检查已是 常规，不仅能够为医生提供参考意见，有时还能抓到医生未注意到的 肿瘤。9
目前仍有许多技术问题，让“沃森”及类似的人工智能不可能明天 一早就忽然取代大多数的医生。然而，虽然这些技术问题确实棘手，解 决后却是一劳永逸。人类医生的培训是一个复杂而昂贵的过程，费时多 年。而且，经过大约10年的学习、实习，终于完成整个过程之后，也 只是培养出了 “一位”医生。想要两位医生，只能从头再来一遍整个过 程。相对地，只要解决了阻碍“沃森”的技术问题，能得到的不是一位 而是无数位医生，能够在全世界每个角落、全年无休提供服务。因此， 就算得花上1000亿美元才能解决这个问题，长远看来，还是比培训人 类医生便宜得多。
当然，并不是所有的人类医生都会就此消失。至少在可预见的未 来，那些需要创意而不只是日常诊断的工作，还会继续由人类完成。正 如21世纪的军队逐步扩增精英特种部队，未来的医疗也可能有更多等 同于医疗界游骑兵或海豹突击队员的医生。但正如军队已不再需要几 百万士兵，未来的医疗也不会需要几百万名家庭医生。
医生面临的情境，对药剂师来说更是如此。2011年，旧金山就开 了一家药店，由机器人担任药剂师。顾客上门之后，机器人只要几秒就 能接收到这位顾客的所有处方、服用药物的详细信息，以及顾客可能对 哪些药物过敏。机器人会先确认新的处方不会造成过敏，也不会与其他 药物产生不良反应，接着才会为顾客配药3开业第一年，机器人药剂师 开出超过200万张处方，一个错都没犯。而平均来说，人类药剂师配药 错误的比例大约占所有处方的1.7%。也就是说单单在美国，每年就会 有超过5000万张处方配错！ m
又会有人说，就算算法在专业技术方面优于医生和药剂师，却永 远无法取代人性的温暖。假设CT扫描显示你得了癌症，你希望告诉你 这个消息的是一台冰冷的机器，还是一个会注意到你情绪的人类医生？ 如果还有另一台机器，能注意到人类情绪，会依据你的感受和人格特质 而调整用词，这下该怎么选？请别忘了，生物也是由各种算法构成，而 “沃森”探测人类情绪的准确度，可以和探测肿瘤的准确度一样高。
“沃森”分析这种外部信号的准确度不仅高于人类医生，甚至还能 同时分析一般人看不到、听不到的内部指标。“沃森”能够靠着监测你 的血压、脑部活动和其他无数生物统计资料，清楚知道你的感觉。而在 分析数百万笔过去收集的社交信息后，“沃森”就能用最适当的音调、 你最想听的词汇，告知你需要知道的事情。虽然人类总对自己的情绪智 能洋洋得意，却也常常受情绪影响，做出消极反应。比如你遇到一个愤 怒的人，自己也开始大吼大叫；听一个忧虑的人讲话，自己也忧虑了起 来。“沃森”永远不会被这种诱惑影响，它没有自己的情绪，所以永远 只会依据你的情绪状态做出最恰当的反应。
这种概念目前已经应用到某些客户服务上，比如芝加哥的 Mattersight公司就设计出此类软件。Mattersight的产品广告词就是：“是 否曾和某个人说话，觉得真是触动心弦？那种神奇的感受，正是人格 匹配的结果。Mattersight将让全世界的客服中心都能创造这种感受。” 11 通常，打电话咨询客服或投诉的时候，大概要花个几秒钟，把电话转给 专员。而在Mattersight的系统里，电话会由一套聪明的算法来负责转 接。算法会先请你说出致电原因，接着聆听问题，分析你用的词汇和语 调，以此推断你当时的情绪状态甚至性格类型（内向、外向、反叛或依 赖）。根据这套信息，算法再为你转接至最适合你当时心情并符合你个 性的专员。算法能够判断，你需要的该是具备同情心、能够耐心听完 投诉的客服，还是毫不废话、立刻提出技术解决方案的客服。搭配越 得当，顾客就越满意，客服也就能降低服务时间和成本。12


[[生命的意义|上一篇]]　　[[无用的阶级|下一篇]]　　{{返回未来简史目录}}