机器人已证获得了“自我意识”？ - 版本历史

2021年10月6日 (三) 00:54 江南仁

2021-10-06T00:54:11Z

2020年1月17日 (五) 21:03 江南

2020-01-17T21:03:14Z

2020年1月9日 (四) 02:54 明华

2020-01-09T02:54:27Z

2020年1月9日 (四) 02:50 明华

2020-01-09T02:50:20Z

2020年1月9日 (四) 02:47 明华

2020-01-09T02:47:09Z

2020年1月9日 (四) 02:46 明华

2020-01-09T02:46:05Z

2020年1月9日 (四) 02:44 明华

2020-01-09T02:44:18Z

2019年8月8日 (四) 09:20 江南

2019-08-08T09:20:05Z

江南：创建页面，内容为“{{4}}利维坦按：与其说利普森教授实验室中的机器人“获得了某种自我意识”，倒不如说这些机器人展示了自我意识中除了“...”

2019-08-08T05:48:59Z

创建页面，内容为“{{4}}利维坦按：与其说利普森教授实验室中的机器人“获得了某种自我意识”，倒不如说这些机器人展示了自我意识中除了“...”

新页面

{{4}}利维坦按：与其说利普森教授实验室中的机器人“获得了某种自我意识”，倒不如说这些机器人展示了自我意识中除了“源头“以外的、一系列关于信息输入与输出的机制模型。出于实际的研究目的，这样的模型的确可以称为某种“自我意识”。在哲学对于自我意识的源头的讨论早已陷入困境的时候，我们可喜地看到：科学家正在通过借用机器人来逆推意识的诞生。
----
文/John Pavlus <br>
译/Trion兵<br>
校对/何里活<br>
原文/http://www.quantamagazine.org/hod-lipson-is-building-self-aware-robots-20190711

本文基于创作共同协议（BY-NC），由Trion兵在利维坦发布

文章仅为作者观点，未必代表利维坦立场

[[文件:Trion01.jpg]]

“真希望在有生之年我能见到外星人啊！”说这话的人是哥伦比亚大学创新机器实验室的主任霍德·利普森（Hod Lipson），他还说希望在死前“能见到某种有智能且非人类的东西”。与其等着智慧生命体从天而降，利普森决定自己在实验室造一个，准确地说，他正在制造具备自我意识的机器。

为了达成目标，利普森必须直面那个模糊不清的概念——意识。但他面对的情况不容乐观，就连利普森的同事们都对这个概念闭口不谈，视为禁忌。“在机器人技术、人工智能技术的领域，人类曾经把意识当作一个禁忌看待，没有人能够碰触这个话题，”利普森坦言，“因为这个概念太暧昧了，没人知道意识到底是什么东西。但既然我们要做严谨科研，就必须直面这个概念。可惜，据我所知，意识究竟为何物这称得上是最大的未解之谜，只有生命起源、宇宙起源才能和这样宏大的谜团相提并论。

想想看吧——感觉是什么？创造力又是什么？情绪到底是什么？如今人类不仅想知道到底什么是人性，还期望搞清楚如何人工制造出人性。好吧，是时候直面这些问题了，对此我们再也不能畏畏缩缩了。”

[[文件:Trion02.jpg]]

霍德·利普森在哥伦比亚大学的创新机器实验室里。图源：Quanta

根据利普森的研究，组成自我意识最重要的一块基石，就是“自我模拟”（Self-simulation）：建立一个身体的虚拟模型，描述身体如何在现实空间内运动，并通过这个模型指导行动。

利普森从2006年年初开始研究人造自我意识，当时他只不过是制造了一个外型邪恶的蛛形机器人，让这个机器人使用进化算法（Evolutionary Algorithm）自行学会如何在桌面上沿直线前进。（作为提示，除了进化算法以外，利普森还给机器人预装了一些程序解释基本物理规则。）

[[文件:Trion03.gif]]

利普森曾经在TED演讲中展示了蛛形机器人是如何自己学会爬行的。首先，这些机器人会毫无目的地摆动触手，通过收集到的信息尝试建立自身的虚拟模型。上图：蛛形机器人终于完成了自身建模，并根据这个模型自己模拟出一种爬行动作。图源：TED

[[文件:Trion04.gif]]

“看这家伙的样子，距离征服世界还很遥远。”利普森在展示蛛形机器人行动录像时这样说。虽然这种爬行动作看起来既邪恶又蠢笨，但机器人毕竟是完全依靠自身的学习能力迈出了这一小步。图源：TED

（www.ted.com/talks/hod_lipson_builds_self_aware_robots?language=en#t-8208）

到了2012年，利用现代科技制造人工智能的研究终于掀起一股风潮，卷积神经网络（Convolutional Neural Networks）算法以及其他深度学习（Deep Learning）算法开始在研究界大放异彩，回忆起2012年，利普森说人工智能领域就像是“改革春风吹满地”。

[[文件:Trion04.jpg]]

2012年，利普森的团队在过去的蛛形机器人研究基础上公布了一个开源机器人项目，“蛛怪机器人”（Aracna Robot），如今全世界各地的科研团队都可以使用这个机器人进行研究。图源：Quanta

2019年初，利普森的实验室公布了一台手臂机器人的论文及视频，通过深度学习算法，这台机器人仅凭自身的运算能力就从无到有搭建出自己的虚拟模型——利普森描述这个过程时说，“这像极了一个还不会说话的婴儿第一次观察并认知自己的手。”

当这个手臂机器人对自身位置及形态完全一无所知的时候，它能做的只有长时间进行随机的摆臂运动，并收集所需的数据。图源：Columbia Engineering

（engineering.columbia.edu/press-releases/lipson-self-aware-machines）

成功搭建自身虚拟模型之后，这台手臂机器人可以准确地执行两种不同的任务，其一，从桌面捡起小球并放在杯子里；其二，在纸上写下特定的记号——理解、计划并完成上述任务的过程中，机器人并不会得到任何外界帮助。不仅如此，在本次实验中，研究员给机器人更换了一节变形的机械臂结构，以此模拟机械臂受到了损伤，而机器人不仅察觉到了这种变化，还更新了自身的虚拟模型，并且仍然能正确完成上述任务。

图源：Columbia Engineering

图源：Columbia Engineering

的确，这样的思考还远远称不上深思熟虑，但是利普森坚信这个手臂机器人已经完成了从应激反应到深度思考的质变，接下来只是量变的问题。

“当你提到机器人的自我意识，人们总觉得你指的是机器人会突然醒过来说：‘你好？我是谁？我在哪？’”利普森说道，“但是自我意识并不存在非黑即白的界限，它可以小到非常琐碎的念头，比如‘我的手应该伸到哪个方向去？’其实这与‘我是谁？我在哪？’是同样的思考，只不过它关注的是更短时间内的问题。”

这次，《量子》（Quanta）杂志采访了利普森，我们谈到如何界定机器人的自我意识？它们的意识有什么重要意义？具备自我意识的机器人又会把人类引领到什么样的未来？为了阅读的清晰明了，我们对采访问答做了删减加工。

——————

Q：对于意识本质这个宏大的问题，你显然有着极大兴趣，但是你为什么一定要用机器人来研究意识呢？为什么没有选择哲学家、神经学家的研究方向呢？

A：对于我来说，机器人技术的美妙之处就是它会逼迫你把自己的主观理解翻译成程序、算法，把你的思绪代入到机械原理的世界里。在机器人技术的领域进行研究，你永远不能避重就轻，也无法使用空洞的形容词，更不能说什么“生活就是一张画布”，对于这种话，不同的人可能有各种各样的理解。所有这些表达都太过于含混不清，根本无法翻译给机器。因此，机器人技术会逼着你脚踏实地。

我也想制造出实实在在的东西，而不只是让研究停留在嘴上。恕我直言，对于意识为何物，哲学家们在过去一千多年之间的研究乏善可陈。这并不是因为这一千多年里没有出现卓越的哲学家，也不是因为他们对意识问题兴趣淡漠——只不过是因为你不能站在宏观的高度去研究意识。当然，神经学家已经通过更确定、更量化的研究方式在接近意识的本质。但是，我猜他们最终还是会遇到瓶颈，因为他们仍然在使用一种宏观的研究视角。

想想看，如果你试图理解什么是意识，为什么要从人类开始研究呢？人类可是最复杂的有意识生物啊！这就好像是从最陡峭的山坡开始登山。我们不妨换个视角，寻找到更简单的系统，因为它们很可能更容易理解。这就是我现在尝试做的事情：我们制造出一个只有4个机构自由度（Degree of Freedom of Mechanism）的机器人，相比人类的复杂意识，它明显更渺小，但是我们也能提出更具体的问题，比如，“我们能不能让这个机械做出自己的虚拟模型？”（译注：机构自由度，即为了使机构的位置得以确定，必须给定的独立的广义坐标的数目。）

图源：Quanta

Q：自我意识和自我模拟的能力是同一个概念吗？

A：应该说一个能够进行自我模拟的系统，就已经获得了某种程度的自我意识。至于它自我模拟能达到的程度，无论是其模拟的物理精确度，还是对于自身的认知是短期当下的，还是可预期到未来的——所有不同的实验结果都可以说明它的自我意识到底处于什么程度。这个假设就是我们进行研究的基本出发点。

Q：换句话说，你把“自我意识”这样的抽象概念具象为“自我模拟”，在技术领域这是一个更清晰的标准，代表着一个系统将自身空间状态转化为虚拟模型的能力？

A：没错，对于自我意识，我提出了一个独特的定义，并使用这个非常精准的定义进行研究。它可以被计算、被测量、被量化，你甚至可以用电脑计算出这个定义本身存在多大的误差。也许哲学家会说：“呃，我们可不会这样理解自我意识。”然后他们会和你展开一些非常模糊不清的讨论……

的确，你可以指出我们提出的定义并不是真正的自我意识，但你必须承认这个定义非常实际，易于进行研究，因为我们已经有了一个标准（Benchmark）。这个标准就是以往研究中工程师亲手敲一行行代码，为机器人建立起来自身虚拟模型。而我们希望看到的，不只是人工只能算法学会了搭建自身的虚拟模型，更希望看到人工智能模型和人类做出的模型一样好，甚至可以超越人类。

这些画作是由一种已实现量产的人工智能机器人创作的，它们搭载的程序及算法是专门用于绘画的。图源：Quanta

Q：为什么一定要制造有形的机器人呢？难道不能在无形的虚拟程序中研究自我意识吗？

A：我是一个机器人科学家，制造机器人来研究当然是我的首选。实际上我们期望得到的东西是一个封闭系统（Closed System），其功能就是自行模拟，为了让这个封闭系统做到这一点，我们必须给它一定输入，并观察它的输出——关键在于这个研究过程必须存在于某种界限之内，在这个封闭环境内你才有可能制造出“自我”。而机器人简直是天生就适合进行这样的研究，它可以通过感知获得输入，也可以输出行为动作，而且一切都存在于可控范围内，它可以遭遇一些特定事件，然后对此进行模拟。

这是利普森团队今年公布的另一个机器人，“灰色粘液”（Gray Goo），这种机器人单个个体拥有感光设备以及小型电机，但是只能进行简单的收缩运动。图源：Columbia Engineering

当机器人组成列阵集群，它们通过算法理解了彼此之间的关系，顺利建模，并且找到了一种有效的集群移动方式，最终成功朝光源方向运动。图源：Columbia Engineering

（engineering.columbia.edu/press-releases/hod-lipson-gray-goo）

Q：这些机器人真的是从零开始创造自身模型的吗？

A：今天我们的研究的确是让机器人从零开始，看看机器人能走到哪一步，我们也把这样的初始状态当作原则问题。但是在早期的研究中，比如那个蛛形机器人，那时候我们还不具备足够的运算能力。就好像我们必须告诉它：“听好啦机器人小老弟，你现在根本不知道自己位于什么地方，也不知道自己的各部分零件都长在哪，不过我现在先告诉你一个我认为正确的物理学法则，F=ma，好啦，现在轮到你上场了。”

Q：在这个过程中人工智能是如何发挥作用的呢？

A：不知道为什么，人类总是热衷于通过人工智能让机器人了解外在的现实世界，然而对于机器人内部到底发生了什么，人类总是有某种奇怪的敲代码的热情，总是坚持亲手制作机器人的虚拟模型。因此我们在研究之初就着手于非常琐碎的细节，当时我们决定，“人类为了让机器人认知外部世界已经做了大量软硬件基础设施，我们应该利用这些东西让机器人学习自己的内在世界发生了什么，而且这次机器人只能依靠自己。”如果要用一句话概括我们的研究，这就是我们在做的事情。

Q：机器人很可能要做1000次随机的行为，才能收集到足够多的信息让深度学习算法搭建自身模型。这个过程就是你所说的机器人就像是一个连话都不会说的婴儿吗？

A：没错。当你看到机器人胡乱挥舞手臂，它很可能是在观察机械臂的尖端在哪里。想象一下你调动手臂肌肉做出摆臂的动作，寻找着自己的手指尖端。对于你来说，这就是你的输入信号与输出行为。为了完成这件事，机器人可能要在那里胡乱摆动30多个小时，当我们确认它已经收集到足够多的数据，我们才能下班回家。从这一刻开始，就全看深度学习算法能否完成挑战，制作出自身虚拟模型了。

接下来，我们提高了难度，把机械臂拆开，替换一节有着特殊形变的机械臂，以此模仿机器人受到了破坏，然后再次重复这个实验。于是我们亲眼目睹了“受伤”的机器人在整体模型的基础上纠正了发生形变的部分。这一次，它已经不需要从零开始制作模型了，虽然它仍然需要在一段时间内看似极其智障地胡乱扭动，但相比第一次实验，第二次收集数据的阶段节省了90%的时间。

图中红色部分即替换掉的机械臂结构，长度及弯曲度均有改变。图源：Columbia Engineering

图源：Columbia Engineering

然而更重要的是，在机器人开始第二次扭动之前，它首先要察觉到自身出现了问题。能做到这一步有着重大意义，但是它怎么能察觉到异常呢？当我们人类身体发生了变化，我们会和脑海中的那个虚拟模型比对，我们只要用眼睛一看就能马上知道自己的手是不是还在原来的位置。或者，你原本预期要移动4厘米，但是突然发现自己移动到了16厘米以外。你可以瞬间得到反馈，同理，机器人也是在一瞬间就发现了异常。接着，它花费了一些时间学着适应这些异常，等等……但是我必须说，单单是发现异常就已经是个重大的进步了。

Q：是不是可以把这种机器人自行模拟出来的自身模型类比成人类大脑的某个脑区？比如某个存储着身体构造图的脑区？

A：我就是这么想的。当然了，这也是为什么手臂机器人做出的自身模型看起来很粗糙、简略。毕竟我们的这个小机器人只不过是个能到处挥舞的机械臂，只有4个机构自由度而已。如果我们要使用一个拥有800多个自由度的人形机械做这个实验，人类今天掌握的人工智能技术还远远应付不了如此复杂的计算。

利普森的团队还曾经做过另一种实验，首先让人工智能在一个空间内模拟出1000个方型机器人，这些机器人能做到的只有通过翻转进行移动。但是一段时间后，画面右侧的深蓝色方形机器人开始清理出一片只属于自己的区域，右下方还有一团青色方形机器人开始形成集群。不知出于什么样的原因，人工智能自动通过自我复制奖励自己。图源：TED

在实验室中，利普森的团队制造了一种运动能力更强大的立方体机器人，研究员发现，只要他们不断地向实验环境内添加小立方体机器人，这些机器人就会不停地相互连接，建造出一个又一个立柱个体，也是通过这种方式进行自我激励。图源：TED

（www.ted.com/talks/hod_lipson_builds_self_aware_robots?language=en#t-8208）

Q：如果这真的是一种自我意识，为什么要赋予机器人这样的能力呢？这样做有什么意义吗？

A：它最终将让机器人更具可塑性，的确，你可以亲手设计一个机器人，就像我们今天通常所做的那样。但是这不仅费工费力而且也拖延了人类自己的时间。当这个机器人在现实世界中发生了形变，比如被撞破了，或者掉了个轮子，或者其中一个电机速度下降了，那么我们原本设计的模型就不再适用。这样的问题很难被轻松解决，因为这不仅仅是在批量生产的机器人身上装错了个螺丝钉那么简单的问题。

恰恰相反，这样的问题非常严肃关键，想象一下无人驾驶汽车吧，如果你愿意开这样的车，就是把自己的身家性命托付给了智能机器人。你希望这些机器人可以探测到危险，并且持续稳定地监测潜在风险。

另一个原因是灵活性。假设某个机器人只做一项工作，当它进行该任务时，会不断修正更新自己的模型。如果它突然需要做一项新的工作，比如在另外一个地方安装螺丝钉，或者新的任务不再是拧螺丝，而是喷镀防锈涂层，此时机器人仍然可以使用同一个虚拟模型继续学习如何完成新的任务。

总体来说，这种学习过程很像人工智能领域的另一种算法，“零次学习”（Zero-shot Learning），它指的是一种人类能进行的深度学习——只要你会爬树，哪怕是面对一棵陌生环境的陌生树木，只需盯着树干观察一段时间，人类就可以成功攀爬这棵树。

相似地，一旦机器人获得了自我虚拟模型，它就可以进行这种程度的学习：唯一的不同是，你看不到机器人花费数小时在内部模拟推演爬树的过程。从你的视角观察，你只会看到一个机器人成功完成了某种任务，然后它停滞不动一段时间，马上就可以成功完成另一种任务，根本不需要试做或练习。

Q：目前你正在做的是能给自己建模的机器人，而你的目标是制造有自我意识的机器人，或者换个更通俗一点的说法，有思考能力的机器人——你距离这个宏大目标还有多远？

A：我们还进行了其他几个科研项目，同样是研究机器人的自我建模能力，但这次不是搭建外形，而是搭建自身的认知过程。在这两个方向上我们都在小步前进着，但最终这些小小的步伐会积累成一个飞跃，让人们相信机器人不仅最终可以获得人类的认知水平，还能超越我们。

动画短片集《爱，死亡和机器人》（Love,Death&Robots）中的《齐马的作品》（Zima Blue）片段。图源：Tumblr

Q：也就是说，无论是自我模拟身体还是自我模拟心智，你认为这两个研究方向未来会交汇在一起？

A：是的，我认为这两种研究其实本质是一样的，这是我们目前的假设，对于这些研究的未来我们也在拭目以待。

***赠书***
《祖先的故事》
逆向追溯生命起源的恢弘史诗
见证40亿年人类进化的非凡跃迁

本文留言点赞数最高的前5名读者
（截至明天中午12点前，限微信公众号平台）
后台留言自己的联系方式
（用户名+地址+手机号）
我们将送出《祖先的故事》一书给到5位
没赶上的，只能自掏腰包了
广告
祖先的故事
作者：理查德·道金斯
当当

往期文章：

“利维坦”（微信号liweitan2014）
微博：利维坦行星
神经基础研究、脑科学、哲学……乱七八糟的什么都有。反清新，反心灵鸡汤，反一般二逼文艺，反基础，反本质。
投稿邮箱：wumiaotrends@163.com
合作联系：微信号 liweitan2018

湖畔书店
古旧书摊：利维坦的内向之城
小程序

点击小程序，或“阅读原文”进店
☟
阅读原文阅读 2.6万
在看250
精选留言
作者已设置关注后才可以留言
77
激光奶牛

人类就是其他生命制造出的蛛形机器人，而宇宙就是大型实验室
33
小网

机器学习本质是遍历算法，智能则是直达本质，还是差距很大的
30
不知

在尚未搞清楚人类意识本身之前探索如何让机器获得自我意识，这样真的明智麽？
27
Angeline

当今的“机器人”的定义已经与阿西莫夫“机器人三定律”里的机器人不同了，伟大的科幻作家也是预言家，因为有自由意志，就有量子理论的真随机，一切皆有可能，可能是更高阶的文明，从此人类矮化，或者是人类大清除
26
L Yong

黑色四角爬行的AI特别像异星觉醒里外星生物的早期形态
20
赵宇新${Ricky}

Hod的机器人主要还是强化学习，还是基于某个算法。我们很难界定机器人是否具有意识，意识到底是什么还没有搞清楚，而且想要达到智能，意识可能并不是必要的。
15
陈瑶

据我的认知所言，目前能够做到的人工智能都只是作为大数据的深度算法基础上做的研究和应用，关于脑神经数据的人工智能还差太远了…大部分现在通过肌电信号传输人与机器之间的连接。这篇文章有一点误导性，这个教授美化技术含量的有一点离谱。
14
Someone

自我意志这个概念大概是本世纪最难定义的了。我的理解是应当进行广义和狭义的区分。狭义的定义是基于人类现实需求与应用。广义的则是深挖背后的终极原理。无奈目前人类只能在前者范围内进行讨论，因为如果从广义上进行讨论，到最后你会发现你整个世界观的坍塌。为什么会那么难定义广义的自由意志？因为如果跟随逻辑链进行倒推，你会发现这种自由意志的选择并没有那么自由。这个所谓自由选择是基于当前信息的输入和你更早信息输入所形成的认知公式去共同决定的，而你所输入的信息本质上都是被动输入的，且你的大脑与神经又在基因芯片之下形成了一套以基因延伸为目的的存在法则。简单来说，一切都是大自然演化之下的算法。说到这里，你还相信广义上我们真的有自由意志吗？
13
不死浪人

“我是谁”才是自我意识的根本，对自我没有概念如何称得上自我意识。机器人或者电脑多精密计算能力多强，能造火箭飞船都不会让我们感到惊奇。当它静静的坐在那里，问一句：“我是谁？”才会让人不寒而栗
13
A 老冰棍

太牛逼了！这不是细胞原型和进化过程吗！大家记不记得anki vector
7
自在梵天

妖魔鬼怪的定义。其中怪的定义，比如箱子怪，是某个外在的意识依附在了箱子上。机器人的情况应该与此相同。机器人，人工Ai本身不会产生意识。但是如果某个机器人和人工Ai真的具备了意识，一定是外界依附上去的意识。
6
无解

最后的动图是zima blue吧。作者以一个清洁机器人进化成艺术大师的视角诠释了自我意识自我认知的局限和无限，最后zima在全世界面前褪去一身装备解体成最初的模样，回归真我和原点的剧情真的令人唏嘘不已。
5
刘锋

他这个研究应该是用了偷换概念的方法，业内包括大众应该都不会认同自我意识等于自我模拟，有点类似于先定义兀只有小数点后10位数，然后宣称找出了兀的全部数字
5
ZH

这个科学家比别人厉害的一点就是意识到不是一个机器人坐在那问一句“我是谁？”就算是有自我意识的必要条件。镜子试验证明很多动物也有自我意识，但不一定要通过语言来表达。他做的是有自我学习能力的机器人，就像有学习能力的动物一样。一出生就爬珠穆朗玛是不行的，得先从后院小土坡开始。我觉得他找对了方向，同时也打开了潘多拉魔盒的一个缝。
4
Rache睿

判断对方是不是AI业内人士的一个简单方法：如果一个人张口闭口就是通用人工智能（AGI），这人很可能是吹牛派的。——王威廉微博
3
羽田

终于说到点子上了，关于自身的模拟。从自动控制理论的角度看，2层以上嵌套的闭环就可以实现自学习自适应的特性。
2
Gurney

从来不觉得人类和其他生物，甚至这物质世界有什么本质区别，如果我们能探究清楚一个神经细胞是如何工作，又是如何与其他神经细胞乃至体细胞交流，那么我们就能用程序复制单个细胞的工作，然后再将这个程序复制到和人类相当的数量，而且可以根据需求优化，这时候就离真正的人工智能不远了
2
李辉-LeoLee

地球文明生物形态终于又要迎来爆发式进化了。
1
a  7

“当你提到机器人的自我意识，人们总觉得你指的是机器人会突然醒过来说：‘你好？我是谁？我在哪？’”利普森说道，“但是自我意识并不存在非黑即白的界限，它可以小到非常琐碎的念头，比如‘我的手应该伸到哪个方向去？’其实这与‘我是谁？我在哪？’是同样的思考，只不过它关注的是更短时间内的问题。”
1
我叫Ether多多指教

不知道有没有人和我有同感，我担心的是这个它们那种目前还解释不清的自我复制奖励。
1
Catal

如果机器人要有自我意识那么它必须要学会自我编程且硬件上满足其相对于人类而言能及的条件或机器所能企及的条件，举例如果这个机器人只会走路那么它必须要积累一定经验后学会自我编程形成一个可以跑步的回路硬件上就必须要满足其跑步的条件而不是只设定了只能走路的配置，当这种自我编程足够积累得多那么估计就可以企及意识了，我获得真正意义上的自我意识现阶段应该不行毕竟意识的物质基础是什么这好像还是空白的
1
Edge of the universe

很像某种自然法则影响下的碳氢氧原子组装成生命的过程

突然又觉得进化论有一点点道理了
1
Valar Morghulis

所谓自我意识，只是不确定的概念，不如称之为自由意志。人们恐慌的并不是机器人智能和自我学习能力，恐慌的是不能控制自由意志。
1
沸腾

与其说是自我意识，不如说是人类用人类的思考方式去分析机器人行为的逻辑上面所得出的结论
1
曲文涛

要弄出自我意识很容易～设置一个和“机器人三定律”想到的就行了～给机器人增加个喜好～比如自己是最重要的～任何在言语和行为上对自己的侵犯都是不可以的～
1
朱朱

也有人认为人的意识的困难问题在于那些难以结构化的部分。

楚白

神经网络/深度学习强大的计算能力已经毋庸置疑，但它们的自我意识显然还不如一株植物，包括这个科学家团队早的行走蜘蛛。因为行走蜘蛛的目标——行走是人为赋予的，除此以外，它什么都不会学。如何让机器自我驱动、自行设定行为目标？想想它们还差点什么？人是被各种激素（体液）驱动的，这样人才看上去有情感，而植物也不例外，有生长素等各种激素，这让生物得以把外界刺激转化为内部的反馈，让生物变成一个追求正反馈避免负反馈的机器。模拟这套反馈系统，才是人造意识的实验方向。

赵蕾

完全同意他的思路。罗马不是一天建成的。

阿斯克尤

能源循环机制没有建立起来之前，就是说机器人对于自身生存意识没有成为一种本能之前，或者说没有资源竞争概念之前，机器的意识可能还不如一个原始单细胞动物

@@ 第8行： / 第8行： @@
 [[文件:Trion01.jpg|缩略图]]
-“真希望在有生之年我能见到外星人啊！”说这话的人是哥伦比亚大学创新机器实验室的主任霍德·利普森（Hod Lipson），他还说希望在死前“能见到某种有智能且非人类的东西”。与其等着智慧生命体从天而降，利普森决定自己在实验室造一个，准确地说，他正在制造具备自我意识的机器。
+“真希望在有生之年我能见到外星人啊！”说这话的人是哥伦比亚大学创新机器实验室的主任霍德·利普森（[[Hod Lipson]]），他还说希望在死前“能见到某种有智能且非人类的东西”。与其等着智慧生命体从天而降，利普森决定自己在实验室造一个，准确地说，他正在制造具备自我意识的机器。
 为了达成目标，利普森必须直面那个模糊不清的概念——意识。但他面对的情况不容乐观，就连利普森的同事们都对这个概念闭口不谈，视为禁忌。“在机器人技术、人工智能技术的领域，人类曾经把意识当作一个禁忌看待，没有人能够碰触这个话题，”利普森坦言，“因为这个概念太暧昧了，没人知道意识到底是什么东西。但既然我们要做严谨科研，就必须直面这个概念。可惜，据我所知，意识究竟为何物这称得上是最大的未解之谜，只有生命起源、宇宙起源才能和这样宏大的谜团相提并论。

@@ 第5行： / 第5行： @@
 校对/何里活<br>
 原文/http://www.quantamagazine.org/hod-lipson-is-building-self-aware-robots-20190711   [https://mp.weixin.qq.com/s/9rIdd6B4fKIpXyjui6bI-A 知乎上的译文]
 [[文件:Trion01.jpg|缩略图]]

@@ 第90行： / 第90行： @@
 的确，你可以指出我们提出的定义并不是真正的自我意识，但你必须承认这个定义非常实际，易于进行研究，因为我们已经有了一个标准（Benchmark）。这个标准就是以往研究中工程师亲手敲一行行代码，为机器人建立起来自身虚拟模型。而我们希望看到的，不只是人工只能算法学会了搭建自身的虚拟模型，更希望看到人工智能模型和人类做出的模型一样好，甚至可以超越人类。
-[[文件:Trion05.jpg]]
+[[文件:Trion05.jpg|缩略图]]
 这些画作是由一种已实现量产的人工智能机器人创作的，它们搭载的程序及算法是专门用于绘画的。图源：Quanta

@@ 第44行： / 第44行： @@
 年初，利普森的实验室公布了一台手臂机器人的论文及视频，通过深度学习算法，这台机器人仅凭自身的运算能力就从无到有搭建出自己的虚拟模型——利普森描述这个过程时说，“这像极了一个还不会说话的婴儿第一次观察并认知自己的手。”
-[[文件:Trion05.gif]]
+[[文件:Trion05.gif|缩略图]]
 当这个手臂机器人对自身位置及形态完全一无所知的时候，它能做的只有长时间进行随机的摆臂运动，并收集所需的数据。图源：Columbia Engineering
@@ 第52行： / 第52行： @@
 成功搭建自身虚拟模型之后，这台手臂机器人可以准确地执行两种不同的任务，其一，从桌面捡起小球并放在杯子里；其二，在纸上写下特定的记号——理解、计划并完成上述任务的过程中，机器人并不会得到任何外界帮助。不仅如此，在本次实验中，研究员给机器人更换了一节变形的机械臂结构，以此模拟机械臂受到了损伤，而机器人不仅察觉到了这种变化，还更新了自身的虚拟模型，并且仍然能正确完成上述任务。
-[[文件:Trion06.gif]]
+[[文件:Trion06.gif|缩略图]]
 图源：Columbia Engineering

@@ 第56行： / 第56行： @@
 图源：Columbia Engineering
-[[文件:Trion07.gif]]
+[[文件:Trion07.gif|缩略图]]
 图源：Columbia Engineering
@@ 第76行： / 第76行： @@
 想想看，如果你试图理解什么是意识，为什么要从人类开始研究呢？人类可是最复杂的有意识生物啊！这就好像是从最陡峭的山坡开始登山。我们不妨换个视角，寻找到更简单的系统，因为它们很可能更容易理解。这就是我现在尝试做的事情：我们制造出一个只有4个机构自由度（Degree of Freedom of Mechanism）的机器人，相比人类的复杂意识，它明显更渺小，但是我们也能提出更具体的问题，比如，“我们能不能让这个机械做出自己的虚拟模型？”（译注：机构自由度，即为了使机构的位置得以确定，必须给定的独立的广义坐标的数目。）
-[[文件:Trion04.jpg]]
+[[文件:Trion04.jpg|缩略图]]
 图源：Quanta

@@ 第30行： / 第30行： @@
 利普森曾经在TED演讲中展示了蛛形机器人是如何自己学会爬行的。首先，这些机器人会毫无目的地摆动触手，通过收集到的信息尝试建立自身的虚拟模型。上图：蛛形机器人终于完成了自身建模，并根据这个模型自己模拟出一种爬行动作。图源：TED
-[[文件:Trion04.gif]]
+[[文件:Trion04.gif|缩略图]]
 “看这家伙的样子，距离征服世界还很遥远。”利普森在展示蛛形机器人行动录像时这样说。虽然这种爬行动作看起来既邪恶又蠢笨，但机器人毕竟是完全依靠自身的学习能力迈出了这一小步。图源：TED
@@ 第38行： / 第38行： @@
 到了2012年，利用现代科技制造人工智能的研究终于掀起一股风潮，卷积神经网络（Convolutional Neural Networks）算法以及其他深度学习（Deep Learning）算法开始在研究界大放异彩，回忆起2012年，利普森说人工智能领域就像是“改革春风吹满地”。
-[[文件:Trion04.jpg]]
+[[文件:Trion04.jpg|缩略图]]
 年，利普森的团队在过去的蛛形机器人研究基础上公布了一个开源机器人项目，“蛛怪机器人”（Aracna Robot），如今全世界各地的科研团队都可以使用这个机器人进行研究。图源：Quanta

@@ 第10行： / 第10行： @@
 文章仅为作者观点，未必代表利维坦立场
-[[文件:Trion01.jpg]]
+[[文件:Trion01.jpg|缩略图]]
 “真希望在有生之年我能见到外星人啊！”说这话的人是哥伦比亚大学创新机器实验室的主任霍德·利普森（Hod Lipson），他还说希望在死前“能见到某种有智能且非人类的东西”。与其等着智慧生命体从天而降，利普森决定自己在实验室造一个，准确地说，他正在制造具备自我意识的机器。
@@ 第18行： / 第18行： @@
 想想看吧——感觉是什么？创造力又是什么？情绪到底是什么？如今人类不仅想知道到底什么是人性，还期望搞清楚如何人工制造出人性。好吧，是时候直面这些问题了，对此我们再也不能畏畏缩缩了。”
-[[文件:Trion02.jpg]]
+[[文件:Trion02.jpg|缩略图]]
 霍德·利普森在哥伦比亚大学的创新机器实验室里。图源：Quanta

@@ 第4行： / 第4行： @@
 译/Trion兵<br>
 校对/何里活<br>
-原文/http://www.quantamagazine.org/hod-lipson-is-building-self-aware-robots-20190711
+原文/http://www.quantamagazine.org/hod-lipson-is-building-self-aware-robots-20190711   [https://mp.weixin.qq.com/s/9rIdd6B4fKIpXyjui6bI-A 知乎上的译文]
 本文基于创作共同协议（BY-NC），由Trion兵在利维坦发布
@@ 第44行： / 第44行： @@
 年初，利普森的实验室公布了一台手臂机器人的论文及视频，通过深度学习算法，这台机器人仅凭自身的运算能力就从无到有搭建出自己的虚拟模型——利普森描述这个过程时说，“这像极了一个还不会说话的婴儿第一次观察并认知自己的手。”
 当这个手臂机器人对自身位置及形态完全一无所知的时候，它能做的只有长时间进行随机的摆臂运动，并收集所需的数据。图源：Columbia Engineering
@@ 第51行： / 第52行： @@
 成功搭建自身虚拟模型之后，这台手臂机器人可以准确地执行两种不同的任务，其一，从桌面捡起小球并放在杯子里；其二，在纸上写下特定的记号——理解、计划并完成上述任务的过程中，机器人并不会得到任何外界帮助。不仅如此，在本次实验中，研究员给机器人更换了一节变形的机械臂结构，以此模拟机械臂受到了损伤，而机器人不仅察觉到了这种变化，还更新了自身的虚拟模型，并且仍然能正确完成上述任务。
 图源：Columbia Engineering
 图源：Columbia Engineering
@@ 第73行： / 第76行： @@
 想想看，如果你试图理解什么是意识，为什么要从人类开始研究呢？人类可是最复杂的有意识生物啊！这就好像是从最陡峭的山坡开始登山。我们不妨换个视角，寻找到更简单的系统，因为它们很可能更容易理解。这就是我现在尝试做的事情：我们制造出一个只有4个机构自由度（Degree of Freedom of Mechanism）的机器人，相比人类的复杂意识，它明显更渺小，但是我们也能提出更具体的问题，比如，“我们能不能让这个机械做出自己的虚拟模型？”（译注：机构自由度，即为了使机构的位置得以确定，必须给定的独立的广义坐标的数目。）
 图源：Quanta
@@ 第86行： / 第90行： @@
 的确，你可以指出我们提出的定义并不是真正的自我意识，但你必须承认这个定义非常实际，易于进行研究，因为我们已经有了一个标准（Benchmark）。这个标准就是以往研究中工程师亲手敲一行行代码，为机器人建立起来自身虚拟模型。而我们希望看到的，不只是人工只能算法学会了搭建自身的虚拟模型，更希望看到人工智能模型和人类做出的模型一样好，甚至可以超越人类。
 这些画作是由一种已实现量产的人工智能机器人创作的，它们搭载的程序及算法是专门用于绘画的。图源：Quanta
@@ 第93行： / 第98行： @@
 A：我是一个机器人科学家，制造机器人来研究当然是我的首选。实际上我们期望得到的东西是一个封闭系统（Closed System），其功能就是自行模拟，为了让这个封闭系统做到这一点，我们必须给它一定输入，并观察它的输出——关键在于这个研究过程必须存在于某种界限之内，在这个封闭环境内你才有可能制造出“自我”。而机器人简直是天生就适合进行这样的研究，它可以通过感知获得输入，也可以输出行为动作，而且一切都存在于可控范围内，它可以遭遇一些特定事件，然后对此进行模拟。
 这是利普森团队今年公布的另一个机器人，“灰色粘液”（Gray Goo），这种机器人单个个体拥有感光设备以及小型电机，但是只能进行简单的收缩运动。图源：Columbia Engineering
 当机器人组成列阵集群，它们通过算法理解了彼此之间的关系，顺利建模，并且找到了一种有效的集群移动方式，最终成功朝光源方向运动。图源：Columbia Engineering
@@ 第115行： / 第122行： @@
 接下来，我们提高了难度，把机械臂拆开，替换一节有着特殊形变的机械臂，以此模仿机器人受到了破坏，然后再次重复这个实验。于是我们亲眼目睹了“受伤”的机器人在整体模型的基础上纠正了发生形变的部分。这一次，它已经不需要从零开始制作模型了，虽然它仍然需要在一段时间内看似极其智障地胡乱扭动，但相比第一次实验，第二次收集数据的阶段节省了90%的时间。
 图中红色部分即替换掉的机械臂结构，长度及弯曲度均有改变。图源：Columbia Engineering
 图源：Columbia Engineering
@@ 第127行： / 第136行： @@
 A：我就是这么想的。当然了，这也是为什么手臂机器人做出的自身模型看起来很粗糙、简略。毕竟我们的这个小机器人只不过是个能到处挥舞的机械臂，只有4个机构自由度而已。如果我们要使用一个拥有800多个自由度的人形机械做这个实验，人类今天掌握的人工智能技术还远远应付不了如此复杂的计算。
 利普森的团队还曾经做过另一种实验，首先让人工智能在一个空间内模拟出1000个方型机器人，这些机器人能做到的只有通过翻转进行移动。但是一段时间后，画面右侧的深蓝色方形机器人开始清理出一片只属于自己的区域，右下方还有一团青色方形机器人开始形成集群。不知出于什么样的原因，人工智能自动通过自我复制奖励自己。图源：TED
@@ 第132行： / 第142行： @@
 在实验室中，利普森的团队制造了一种运动能力更强大的立方体机器人，研究员发现，只要他们不断地向实验环境内添加小立方体机器人，这些机器人就会不停地相互连接，建造出一个又一个立柱个体，也是通过这种方式进行自我激励。图源：TED
 （www.ted.com/talks/hod_lipson_builds_self_aware_robots?language=en#t-8208）
@@ 第151行： / 第163行： @@
 A：我们还进行了其他几个科研项目，同样是研究机器人的自我建模能力，但这次不是搭建外形，而是搭建自身的认知过程。在这两个方向上我们都在小步前进着，但最终这些小小的步伐会积累成一个飞跃，让人们相信机器人不仅最终可以获得人类的认知水平，还能超越我们。
 动画短片集《爱，死亡和机器人》（Love,Death&Robots）中的《齐马的作品》（Zima Blue）片段。图源：Tumblr