从碳基伦理到硅基伦理——人工智能时代的伦理学浅论 - 版本历史

2020年12月26日 (六) 12:50 明华

2020-12-26T12:50:18Z

2020年12月26日 (六) 12:49 明华

2020-12-26T12:49:53Z

2020年12月26日 (六) 12:49 明华

2020-12-26T12:49:07Z

2020年12月26日 (六) 12:48 明华

2020-12-26T12:48:06Z

显示更改

明华：创建页面，内容为“[https://mp.weixin.qq.com/s/twgXiJpPY0O27F76IEcCXg?scene=25#wechat_redirect 从碳基伦理到硅基伦理——人工智能时代的伦理学浅论]”

2020-12-26T12:47:00Z

创建页面，内容为“[https://mp.weixin.qq.com/s/twgXiJpPY0O27F76IEcCXg?scene=25#wechat_redirect 从碳基伦理到硅基伦理——人工智能时代的伦理学浅论]”

新页面

[https://mp.weixin.qq.com/s/twgXiJpPY0O27F76IEcCXg?scene=25#wechat_redirect 从碳基伦理到硅基伦理——人工智能时代的伦理学浅论]

@@ 第43行： / 第43行： @@
 事实上，用电车问题作为案例，并不是要假定一个极端情况作出虚拟的推演，在不久的将来，甚至可以说在今天，人工智能的伦理问题正在日益成为我们生活中的现实问题。例如，在人工智能的无人驾驶中，一个突然出现的横穿马路的行人让汽车躲闪不及，从而撞向了路边的小店，导致小店营业员的死亡；或者撞向了桥梁，使里面的乘客溺水而亡。对于人工智能的应用，如无人驾驶、无人机、智能家居等，我们不能只假设便利与和谐的情况，在理论上，我们必须假设一些特殊的失控的情况，来研究和探讨人工智能的伦理。我们在这里的假设并不首先是人工智能存在对人类的恶意，而是在同时涉及人类生命的案例中，人工智能会如何抉择，它们的伦理思考会与人类完全一致吗？我们是否可以直接将富特和汤姆森关于电车问题讨论的结论直接移植到人工智能的案例中来？
- 二、从机器学习到深度学习：超越人类中心主义
+二、从机器学习到深度学习：超越人类中心主义
 对于这样的问题，我们显然不能仅仅从现在的以人类为中心的伦理学做出回答。在回答这样的问题之前，我们首先需要了解人工智能究竟是如何来进行思考和决策的。

@@ 第17行： / 第17行： @@
 所有这些问题给伦理学提出的一个根本问题是，传统意义上建立在人类中心主义或者仅仅将人类作为基本行为者的伦理学正在受到巨大的挑战，这种挑战是由于另一种智慧行为体的出现造成的，随着机器学习、深度学习、云计算、边缘计算等新技术的发展，随着5G等通信技术日益成为新信息时代的基础设施，我们越来越感到AI正在从科幻小说中的对象逐渐成为我们生活中与我们产生行为互动的对象，面对这样的对象，我们与它们之间的交往和互动仍然需要一定的行为法则的约束，但是这种行为法则已经不能在纯粹的人与人之间的伦理框架下来思考，这势必意味着我们需要思考一种面向人工智能时代的伦理学，而这种伦理学最基本的内涵已经不再是人类中心或人与人之间的互动模式，AI的活动已经成为这个巨大的社会关系网络中不可或缺的一环。因此，思考人工智能时代的伦理学或道德哲学，已经成为今天学者们必须面对的问题。
-   一、人工智能时代的电车问题
+一、人工智能时代的电车问题
 我们可以从一个经典的伦理问题开始讨论，这就是电车问题。
@@ 第43行： / 第43行： @@
 事实上，用电车问题作为案例，并不是要假定一个极端情况作出虚拟的推演，在不久的将来，甚至可以说在今天，人工智能的伦理问题正在日益成为我们生活中的现实问题。例如，在人工智能的无人驾驶中，一个突然出现的横穿马路的行人让汽车躲闪不及，从而撞向了路边的小店，导致小店营业员的死亡；或者撞向了桥梁，使里面的乘客溺水而亡。对于人工智能的应用，如无人驾驶、无人机、智能家居等，我们不能只假设便利与和谐的情况，在理论上，我们必须假设一些特殊的失控的情况，来研究和探讨人工智能的伦理。我们在这里的假设并不首先是人工智能存在对人类的恶意，而是在同时涉及人类生命的案例中，人工智能会如何抉择，它们的伦理思考会与人类完全一致吗？我们是否可以直接将富特和汤姆森关于电车问题讨论的结论直接移植到人工智能的案例中来？
-  二、从机器学习到深度学习：超越人类中心主义
+ 二、从机器学习到深度学习：超越人类中心主义
 对于这样的问题，我们显然不能仅仅从现在的以人类为中心的伦理学做出回答。在回答这样的问题之前，我们首先需要了解人工智能究竟是如何来进行思考和决策的。
@@ 第71行： / 第71行： @@
 因此，我们在这里可以梳理一下常规伦理学与人工智能视阈中电车问题的差异。无论是伦理学还是人工智能，都对复杂的情境做出了还原式简化，因为无论是做出伦理判断的人，还是作为人工神经网络的智能，都不可能处理一个环境中的所有信息，其结果是，伦理学将所有复杂情境还原为抽象的人（在富特的案例中，重点也是不同轨道上人的数量以及做出判断的主体的动机），而在人工智能的情况下，复杂情形被还原为对应数据，在这些数据的基础上的机器学习抽象地决定了人工智能的判断基础。因此，人的问题（无论是结果还是动机）均不是人工智能面对的主要问题。从这些分析我们可以看出，传统的伦理学在人工智能时代遇到了一个巨大的瓶颈，那种从上至下的道德律的模式，那种以人类为中心进行动机考察和结果算计的模式，在人工智能时代或许会遭遇前所未有的冲击。也正是因为如此，我们是否需要建立一种新的伦理学，一种超越传统的人类中心主义，将人的价值放在绝对不可动摇地位上的伦理学？如果存在一种人工智能时代的伦理学，它会是什么样的呢？
-   三、数据环世界下的硅基伦理学
+三、数据环世界下的硅基伦理学
 尽管在整个伦理学发展史上，伦理学常常被界定为关于善与恶的学问，但这种善恶之学在绝大多数时候指向的是人的行为本身，即一种实践性的学问。尽管在不同的时代，人们对伦理学的认识千差万别，但总体来说，伦理学离不开人与人之间的关系，它总是试图讨论什么样的行为是正当的，什么样的关系是正义的，什么样的品质是善的这样一些问题。正如雅克·蒂洛在他的《伦理学与生活》一书中十分明确地指出的：“道德基本上是讨论人的问题，讨论人同其他存在物（包括人和非人）的关系如何。道德讨论人如何对待其他存在物，以促进共同的福利、发展、创造性和价值，力求扬善抑恶、扶正祛邪。”尽管在学科范畴上伦理学已经发展出生态伦理学、动物伦理学甚至基因伦理学等分支，但这些分支在根本上并没有真正取代雅克·蒂洛关于伦理学的定义，即在这些伦理学范畴中，我们看到的还是人与自然、人与动物、人与基因等的关系。这样，人的关系始终在伦理学中占据着十分中心的地位，这种以人类为中心的伦理学是衡量各种伦理现象的尺度，我们究竟如何才能超越人类中心主义的方式来设想人工智能时代的伦理学呢？

@@ 第1行： / 第1行： @@
-原创 蓝江 道德与文明 9月25日
+原创 蓝江 道德与文明 2020年9月25日
-   图片
 人从碳基伦理到硅基伦理
 ——人工智能时代的伦理学浅论
 作者简介：蓝江，南京大学哲学系教授、博士生导师；南京大学马克思主义社会理论研究中心研究员，江苏省青年社科英才（江苏南京  210046）。
 〔摘要〕人工智能技术的迅速发展及其在日常生活中的广泛应用，日益向传统伦理学提出了新的问题，即是否有可能超越人类中心的视角，重构人工智能时代的伦理学。事实上，从机器学习到深度学习，人工智能的实现依赖于大数据的运行，而大数据需要创造出一种与人类的生命环世界平行的数据环世界。与生命环世界中将复杂的情境还原为人与其他存在物的关系不同，在数据环世界中，所有的情境都被还原为良序的数据交换。因此，存在着一种不同于以人为中心的碳基伦理学的硅基伦理学，硅基伦理学的基础是数据，而数据和信息交换的善的标准则在于尽可能在系统中降低交换汇总的不确定性。
 〔关键词〕人工智能  碳基伦理  硅基伦理  伦理学
 当看美剧《西部世界》时，我们会看到这样的剧情，一个平常道貌岸然的绅士，在进入到《西部世界》的机器人乐园时，会对那些和人类长相无异的机器人做出最残忍的事情，人类最恶劣的本质在其中体现得淋漓尽致。实际上，对于熟悉伦理学理论的人来说，人类本身的这种兽性并不是不存在的，只是在进入文明社会之后，由于现代伦理学和道德哲学的制约，人与人的平等和互动的人类学机制将这种恶劣的兽性本能压抑了下来，这种伦理学机制使人类在面对同类（甚至包括猫、狗、兔子等亚同类）主体的时候，不会作出极端丑恶的行为。但是《西部世界》这样的影片带给我们的思考是，一旦AI机器人不被视为与我们具有同等地位的伦理主体，我们是否有足够的权利对它们施暴。《西部世界》尽管是一个极端的例子，但一些更为显著的例子出现在我们生活的周围，例如在一些互联网游戏中，游戏角色可以对NPC（游戏中的非玩家角色）施暴，甚至虐杀，这种针对NPC的暴力是否应当被视为伦理问题？
@@ 第29行： / 第16行： @@
 所有这些问题给伦理学提出的一个根本问题是，传统意义上建立在人类中心主义或者仅仅将人类作为基本行为者的伦理学正在受到巨大的挑战，这种挑战是由于另一种智慧行为体的出现造成的，随着机器学习、深度学习、云计算、边缘计算等新技术的发展，随着5G等通信技术日益成为新信息时代的基础设施，我们越来越感到AI正在从科幻小说中的对象逐渐成为我们生活中与我们产生行为互动的对象，面对这样的对象，我们与它们之间的交往和互动仍然需要一定的行为法则的约束，但是这种行为法则已经不能在纯粹的人与人之间的伦理框架下来思考，这势必意味着我们需要思考一种面向人工智能时代的伦理学，而这种伦理学最基本的内涵已经不再是人类中心或人与人之间的互动模式，AI的活动已经成为这个巨大的社会关系网络中不可或缺的一环。因此，思考人工智能时代的伦理学或道德哲学，已经成为今天学者们必须面对的问题。
     一、人工智能时代的电车问题
 我们可以从一个经典的伦理问题开始讨论，这就是电车问题。
@@ 第58行： / 第42行： @@
 事实上，用电车问题作为案例，并不是要假定一个极端情况作出虚拟的推演，在不久的将来，甚至可以说在今天，人工智能的伦理问题正在日益成为我们生活中的现实问题。例如，在人工智能的无人驾驶中，一个突然出现的横穿马路的行人让汽车躲闪不及，从而撞向了路边的小店，导致小店营业员的死亡；或者撞向了桥梁，使里面的乘客溺水而亡。对于人工智能的应用，如无人驾驶、无人机、智能家居等，我们不能只假设便利与和谐的情况，在理论上，我们必须假设一些特殊的失控的情况，来研究和探讨人工智能的伦理。我们在这里的假设并不首先是人工智能存在对人类的恶意，而是在同时涉及人类生命的案例中，人工智能会如何抉择，它们的伦理思考会与人类完全一致吗？我们是否可以直接将富特和汤姆森关于电车问题讨论的结论直接移植到人工智能的案例中来？
    二、从机器学习到深度学习：超越人类中心主义
 对于这样的问题，我们显然不能仅仅从现在的以人类为中心的伦理学做出回答。在回答这样的问题之前，我们首先需要了解人工智能究竟是如何来进行思考和决策的。
@@ 第89行： / 第70行： @@
 因此，我们在这里可以梳理一下常规伦理学与人工智能视阈中电车问题的差异。无论是伦理学还是人工智能，都对复杂的情境做出了还原式简化，因为无论是做出伦理判断的人，还是作为人工神经网络的智能，都不可能处理一个环境中的所有信息，其结果是，伦理学将所有复杂情境还原为抽象的人（在富特的案例中，重点也是不同轨道上人的数量以及做出判断的主体的动机），而在人工智能的情况下，复杂情形被还原为对应数据，在这些数据的基础上的机器学习抽象地决定了人工智能的判断基础。因此，人的问题（无论是结果还是动机）均不是人工智能面对的主要问题。从这些分析我们可以看出，传统的伦理学在人工智能时代遇到了一个巨大的瓶颈，那种从上至下的道德律的模式，那种以人类为中心进行动机考察和结果算计的模式，在人工智能时代或许会遭遇前所未有的冲击。也正是因为如此，我们是否需要建立一种新的伦理学，一种超越传统的人类中心主义，将人的价值放在绝对不可动摇地位上的伦理学？如果存在一种人工智能时代的伦理学，它会是什么样的呢？
     三、数据环世界下的硅基伦理学
 尽管在整个伦理学发展史上，伦理学常常被界定为关于善与恶的学问，但这种善恶之学在绝大多数时候指向的是人的行为本身，即一种实践性的学问。尽管在不同的时代，人们对伦理学的认识千差万别，但总体来说，伦理学离不开人与人之间的关系，它总是试图讨论什么样的行为是正当的，什么样的关系是正义的，什么样的品质是善的这样一些问题。正如雅克·蒂洛在他的《伦理学与生活》一书中十分明确地指出的：“道德基本上是讨论人的问题，讨论人同其他存在物（包括人和非人）的关系如何。道德讨论人如何对待其他存在物，以促进共同的福利、发展、创造性和价值，力求扬善抑恶、扶正祛邪。”尽管在学科范畴上伦理学已经发展出生态伦理学、动物伦理学甚至基因伦理学等分支，但这些分支在根本上并没有真正取代雅克·蒂洛关于伦理学的定义，即在这些伦理学范畴中，我们看到的还是人与自然、人与动物、人与基因等的关系。这样，人的关系始终在伦理学中占据着十分中心的地位，这种以人类为中心的伦理学是衡量各种伦理现象的尺度，我们究竟如何才能超越人类中心主义的方式来设想人工智能时代的伦理学呢？