江南仁：创建页面，内容为“{{4}} 文｜刘永谋（中国人民大学哲学院教授、国家发展与战略研究院研究员）
最近，包括埃隆.马斯克在内...”

2023-03-31T21:14:09Z

创建页面，内容为“{{4}} 文｜刘永谋（中国人民大学哲学院教授、国家发展与战略研究院研究员） 最近，包括埃隆.马斯克在内...”

新页面

{{4}}
文｜ [[刘永谋]]（中国人民大学哲学院教授、国家发展与战略研究院研究员）
 
最近，包括[[马斯克|埃隆.马斯克]]在内的千名专家联合签署公开信，呼吁暂停训练GPT-4后续AI模型至少6个月。消息一出，引爆全球网络和媒体，很快引来[[吴恩达]]等“AI大牛”的反对。
 
如何看待双方的争论？我们一层层分析问题。
 
先说竞争失控问题。
 
据公开信所称，提出“暂停'''[[ChatGPT]]'''研发”的提议，直接刺激是对“最近几个月人工智能实验室陷入了一场失控竞赛”的担忧。可实际上，短短几日争论，是往'''[[OpenAI]]'''公司和'''[[LLMs]]'''（Large Language Models，大语言模型）火上浇油，完成了又一波量子级别的免费推广。
 
这波“操作”的宣传效应，继续扩大该领域领先公司的领先优势。如此声誉竞争是不是失控的商业竞争呢？
 
将目光拉到国内，竞争问题会看得更清楚。GPT研发竞争不限于几个美国公司之间，更是关涉各国尤其是大国之间的AI科研竞争。在'''[[LLMs]]'''领域，美国本来就领先一大截，其竞争对手可能暂停'''[[ChatGPT]]'''研发吗？[[马斯克]]一声呼吁，'''[[OpenAI]]'''公司真的会暂停，而不是转向秘密研发吗？
 
公开信呼吁政府出面，实施暂停研发的措施。新科技领域问题风险和伦理问题层出不穷，政府全部都要大包大揽吗？而且依据何在，又如何能合法合规地实施呢？如果强力暂停措施在一个应对、治理和管控能力有着显著优势的国家奏效，而在其他国家完全不顶用，结果是不是反而扩大了后者对前者的'''[[LLMs]]'''竞争优势呢？
 
再说'''[[LLMs]]'''风险问题。
 
AI风险早就被学界指出，被各国政府所重视，近年来更是成为全社会的关注焦点。近十年来，从物联网到大数据、云计算、区块链、元宇宙、'''[[ChatGPT]]'''，一波波的AI热潮中，从来没有缺少关注风险的呼声。
 
本人专业关注新科技社会冲击问题，花了大量精力提醒大家注意AI可能导致的技术风险。比如，曾写过专著《[[物联网与泛在社会的来临]]》《[[技术有病我没药]]》《[[元宇宙陷阱]]》《[[科技与社会十四讲]]》，面向非专业人士提示[[ICT]]（信息与通讯技术）的社会冲击和技术风险。
 
可以说，警惕AI发展，防止AI失控，正在成为全球范围内科技领域的“政治正确”。在此氛围之下，公开宣称“AI无禁区”的声音被极大地抑制。对此，作为技术控制的选择论者，我完全赞同。
 
然而，公开信指向的不是泛泛的AI风险，而是具体的、当下的'''[[LLMs]]'''风险。那么，就目前的发展态势而言，'''[[ChatGPT]]'''究竟存在什么严重的风险，必须以暂停至少六个月的方式加以应对呢？
 
有人说，'''[[ChatGPT]]'''是超级AI出现的征兆，如果现在不停止（注意：不仅是暂停），“潘多拉的魔盒”一旦打开，人类很快会被超级AI统治甚至灭绝。这种幻想色彩浓厚的念头，很难让人予以严肃的对待。尤其是，很多专业人员不承认'''[[ChatGPT]]'''是通用AI，更别说它是超级AI的雏形了。
 
超级AI可能是个问题，但在严防人类自我灭绝的问题上，很多风险如核大战、气候变化、致命病毒传播、生物科技滥用等要排在超级AI之前。我们是不是先把它们都停止了？就算停止不了，暂停一下也行，起码可以呼吁暂停。对不对？
 
仔细想一想，'''[[LLMs]]'''对中国社会最重要的冲击在于：1）失业问题：'''[[ChatGPT]]'''未来会威胁很多人的“饭碗”，进一步加剧“AI失业问题”，即AI的推广导致人们失业。2）教育问题：'''[[ChatGPT]]'''对应试教育造成巨大挑战，要求中国的教育体制适应AI辅助工作和生活的未来社会环境。3）信息安全问题：'''[[ChatGPT]]'''很快生成海量的AIGC（计算机生成内容），其中不乏错误的、虚假的、有害的内容，威胁主流价值观、意识形态和健康的舆论思想环境。
 
如何应对'''[[ChatGPT]]'''的冲击？这是我们最后要讨论的问题。
 
暂停'''[[ChatGPT]]'''肯定不是应对风险的好办法。为什么？第一，暂停没有道理。有人说，'''[[ChatGPT]]'''风险应对措施没有想清楚，所以先暂停。错！不是没想清楚，而是没有落实到位。第二，暂停是不可能真正实现的，肯定会有

暂停ChatGPT研发不是应对风险的好办法 - 版本历史

江南仁：创建页面，内容为“{{4}} 文 ｜ 刘永谋（中国人民大学哲学院教授、国家发展与战略研究院研究员） 最近，包括埃隆.马斯克在内...”

江南仁：创建页面，内容为“{{4}} 文｜刘永谋（中国人民大学哲学院教授、国家发展与战略研究院研究员）
最近，包括埃隆.马斯克在内...”