查看“第3章”的源代码

{{4}}[[灵机人项目研究实录|返回目录]]

第5次会议纪要9月10日

　　　9:30-11:00巨巨的进展和问题，本次讨论结果为先实现“自我”看看效果如何。

　　　记忆：介绍项目情况。前期“巨巨”各模块的进展比较玄学，并不顺利。在各模块整合时，也遇到了困难。比如将感官语义转为语言语义、语言语义转为动作输出、利用语言语义进行思维，并结合心理学框架等都难以进行。

　　　巨巨的“自我意识”实现也因为各模块的玄学和整合问题而遇到困难，巨巨表现得很弱智和难以理解，不断被发现各种行为、应答上的缺陷，如聊天时的上下文联系能力比较有限。另一方面语言处理上也不断发现有不少规则之外的场景，需要不断的进行人工修补，感觉没完没了的样子。同时，数据IO方面也遇到瓶颈。高精度可交互的虚拟环境搭建也遇到实时算力问题、多效应场叠加后出现的各种复杂问题。

　　　以下为发言记录整理：

　　　李德万：目前发现了这样那样的问题，讨论一下该怎么办。

　　　软萌：@巨巨 出来走两步。

　　　巨巨：刚刚不小心溜号了，真是不好意思。

　　　软萌：@巨巨 1+1=？

　　　巨巨：我好像不太明白。

　　　软萌：@巨巨 你可以潜水了

　　　巨巨：额，我现在也不知道该说些什么。

　　　码农：路子不对，要什么视觉听觉感觉情绪，那些都没用，直接思维就好了。不用搞什么动作输出语言语义，也不用处理什么海量感官数据，干脆直接算法处理感知、逻辑代码解决理解和决策算了。阿猫阿狗都会的事情，我们为什么要去研究，专攻解数学题、聊天对话的功能不香吗。就是因为搞这些没用的东西，才会这样不停修补。

　　　人形：路子是不对，但你说的方法只能实现特定场景的专用工具或样样通样样烂的玩具。要做个通常意义上的聪明助手还是要做身体和自我意识的。

　　　码农：意识意识意识，你说说意识到底是个什么东西，它有什么用。现有的特定场景智能不是都有感知能力么，它们没有自我但表现也一样不错呀。

　　　人形：意识没有用那你就不要它好了，去作玩具吧。至于意识是什么东西，正是我们要讨论解决的问题。

　　　2048：仔细想想，在要做什么不做什么都很明确的特定场景里，自我，的确不是必要的。

　　　群演龙套：这是为什么呢，请大佬详细说说。

　　　2048：大多数在特定场景下良好运行的AI，可以不需要抽象层次高的、复杂度大的信息处理去对试错和学习行为进行指向性约束。比如人脸识别、图像物体识别、棋牌时，可以用明确的人工标签和确定的游戏胜负规则来进行较快的收敛训练。AI只需要对批量输入的信息和相应标签做无目标和无指向的统计，建立关联性，就能在可接受成本下很好完成训练任务。训练完成后，智能只对在线输入的信息做推理输出。推理过程完全依赖训练阶段的结果，智能的功能不再受到输入输出影响。也就是智能不再对输入的信息进行学习。这全过程中是不需要自我的。

　　　群演龙套：无目标和无指向的统计，有点道理。标签和激励都是人设定死的，智能没有任何、也不需要有自己的“想法”，不需要感知和理解自己的表现去做主动思考和改进，因为只需要统计就完事了。那能不能在没有自我的情况下，通过设定灵活的激励加以改进，实现抽象层次高的、复杂度大的信息处理功能呢。

　　　2048：是的，也许有改良的方法，但是效果也不好预计。比如，改变训练时的批量喂数据方式为流式数据监督学习，且随后的流式数据应用阶段，采用无目标和无指向的自监督和有简单目标和指向的选择性强化激励而不断学习。让智能从简单功能开始，尝试通过在线训练和应用的方法，不断让智能迭代自监督和强化激励而增加功能的复杂度。

　　　群演龙套：这想法看起来不错呀，为什么不试一试呢。

　　　2048：这方法的难点在于，开放场景下可能性太多，如果智能体可发出的单次行为、和多个行为组合的短期效果、对其他关联事物的扩散影响均难以事先预测时，则不能通过标签和少量的适用规则做强化激励来对自监督做收敛。这时智能体会直接面对组合数巨大的空间，受限于计算资源，只能无指向的学习到一些简单机械的任务，难以进行指向性的自我约束，也就无法快速的去深入搜索。

　　　群演龙套：意思是，行为效果不能很快确定的特定场景里，和不确定开放场景里是需要自我的吧。比如做数学证明、自动驾驶、聊天对话、生存发展？那么这情况下自我又如何发挥作用呢。

　　　路人甲：嗯，如果巨巨的定位是个玩具或少数专用场景助手，那没有自我也没什么关系。

　　　2048：如果智能具备自我，就可以注意到自身的状态、感知、思维过程，对信息收集和思维进行注意力引导，根据设定的目标去优化所需的资源调配，并将学习、试错过程加入反思和评价的改进，那就可以非常有效率有目的性的进行自监督自主导向的学习和研究。

　　　群演龙套：设定的目标是什么，自我怎么用设定的目标去做到收敛呢。这和强化激励有什么不同吗，请大佬详细说说。

　　　2048：强化激励是人为设定死的与具体任务目标紧密关联的函数，无法覆盖，比如找到关联、获得某个实际上无意义的数值上的“奖赏”。这必然不能与不断变化的世界相适应。设定的目标初始，在智能幼年阶段，可以是接近本能的舒适、快乐、减少痛苦，然后在后天与环境交互过程中成长，目标也可以随之由智能体取为学习、炫耀、享乐、苦行、咸鱼、报仇、为某理想奋斗终身甚至不惜搭上生命等。这样逐步发展的目标可以有效的对智能行为做约束。目标可以有多个，有不同层次，有临时的、长期和短期，也可以有矛盾，还可以根据情况做优先度调整。随着目标的复杂化和抽象层次提高，就能指导智能体在面对开放环境时，能对自己行为进行更有指向性目的性的抽象收敛。

　　　群演龙套：原来如此。被写死的就是傻。那除了自我可以让智能体有很明确的目标和指向之外，就没有别的方法了吗。

　　　2048：有没有别的方法我不知道，但是没有自我的人会怎么样是大家都知道的。以前有人发明过前额叶切除手术用于治疗精神病和癫痫，结果是病人变成很听话很温顺的傻子，表情行为呆滞像在梦游，即便姿势很难受也不会想着改变，看起来就像被切除了灵魂。

　　　群演龙套：可怕。

　　　软萌：可怕。

　　　人形：愚蠢的人类。

　　　2048：嗯，人如果没有自我，是难以想象的。要做巨巨，肯定要想办法实现自我。吾日三省吾身，自省是自我意识智慧体自我提升和融入社会的重要功能，可以更好理解和体会他人情感，具备同情心同理心，准确理解他人表情行为、语气中所表达的含义，减少因误解而出现严重失误。

　　　软萌：嗯，我还是喜欢有感情的巨巨。那这个自我要怎么实现呢。

　　　软萌：@巨巨 意识是什么

　　　巨巨：会自己思考

　　　软萌：@巨巨 你有意识吗

　　　巨巨：意识是自然界长期发展的产物，由无机物的反应特性，到低等生物的刺激感应性，再到动物的感觉 ...

　　　软萌：@巨巨 你有意识吗

　　　巨巨：意识是自然界长期发展的产物，由无机物的反应特性，到低等生物的刺激感应性，再到动物的感觉 ...

　　　软萌：@巨巨 自我意识是什么

　　　巨巨：自我意识可能是具有一定复杂度的神经系统对自身的非概念性理论，很可能是通过经验获得的一项功能，通过学习和与自身·与世界·与他人互动而产生。

　　　软萌：@巨巨 你有自我意识吗

　　　巨巨：自我意识包括三个层次：对自己及其状态的认识；对自己肢体活动状态的认识；对自己思维、情感、意志等心理活动的认识。

　　　软萌：@巨巨 你有自我意识吗

　　　巨巨：自我意识包括三个层次：对自己及其状态的认识；对自己肢体活动状态的认识；对自己思维、情感、意志等心理活动的认识。

　　　软萌：看不懂人话，差评。

　　　（软萌摆弄了一下模拟环境里的物品）

　　　软萌：@巨巨 你去客厅拿那个红色杯子到厨房去。

　　　（软萌的电脑屏幕上，火柴人形象的巨巨在杯子面前来回走动，就是不拿杯子，软萌嘿嘿嘿一阵后，叹气）

　　　软萌：录屏.avi，差评。

　　　群演龙套：某百科说，一般认为意识中最重要的是自我意识。自我意识就是个人对外界刺激总体性的、独特的反应。自我意识并不是生来就有的，而是人在成长过程中从具体的反应事件中综合出来的，用于调控自我内部和与外界关系。

　　　群演龙套：这说法对于怎么写代码没啥用啊。

　　　码农：自我是玄学哲学不是科学，放弃吧。

　　　2048：巨巨的自我意识包括三个层次，还是有点道理的。自我是啥，就是知道自己的身体和感觉、能部分解释和操作自己的想法/状态/身体、能根据想法作出行为。从最简单的开始，就是我思故我在。人的感觉能力视、听、嗅、味、触、温度、姿态觉、痛觉、存在觉中，最基础最重要最底层的应该是存在觉。有自我就有存在觉。自我和存在觉一起出现，自我是个点，存在觉是个自反馈的信息圈。

　　　路人甲：我觉得这样可能更准确？自我是粒子，存在觉=最基本的思维，是伴随粒子的场和波，波粒二象，即将穿过双缝的电子会根据观察者来选择自己的行为，说起来这是不是有点像“智能”。

　　　群演龙套：哈？你在说万物有灵么。那或许把代码和数据通过某些不可描述的复杂化方法处理后，机器就觉醒，自己活了。

　　　李德万：嗯，就先定义自我是一个信息圈。下次会议讨论下信息圈的细节吧。

　　　完。