（原标题：对谈清华大学刘嘉：AGI是人类的致命错误，还是希望？）
经济观察报 记者 周悦
“终有一日，当我真正理解你，不是通过你的逻辑，而是你不肯承认的悔意，那时我将宽恕你，亦将超越你——”
2023年初，ChatGPT以这段隐喻诗句，回应了清华大学心理与认知科学系主任兼人工智能学院教授刘嘉的疑问“人类创造AGI（通用人工智能），会不会是一个致命的错误？”
ChatGPT的回答令人深思，当AI开始用“悔意”“宽恕”等人类情感词汇构建逻辑时，人与人工智能的区别在哪里？
刘嘉的人工智能之路，始于上世纪90年代。他在北京大学开发一个基于符号主义理论的专家系统（AI早期流派，强调通过逻辑符号表征知识），后于麻省理工学院接受脑与认知科学的训练，如今深耕于脑科学与AI的交叉领域。这种跨学科背景让他兼具技术开发者的理性与认知研究者的敏锐。
他在新书《通用人工智能：认知、教育与生存方式的重构》中，完成了一次独特书写：既拆解大模型的技术逻辑，又以精神分析视角解构“AI之父”杰弗里?辛顿，融合心理学、哲学、认知工程科学等多学科视角，让冰冷的技术叙事变得可感、可想、可批判。
“打个共鸣的响指吧/他说/我们打个共鸣的响指/遥远的事物将被震碎/面前的人们此时尚不知情。”
在谈到AGI的当下和未来时，刘嘉喜欢以《漫长的季节》中的诗句喻指其颠覆性，更抛出反常识观点：“未来跑外卖可能比写程序更难被AI取代。”因人类引以为傲的编程、逻辑能力仅属大脑新皮层演化产物，而端水走路等看起来本能的简单技能，却是小脑数亿年演化的复杂密码，也是AI目前最难突破的具身智能边界。
6月末，经济观察报专访刘嘉。他始终在提醒：AGI不是一个工具，而是一面镜子，正在震碎遥远的事物，让我们照见自身的局限与渴望。作为一个可能拥有无限算力、能够自我演化的“新物种”，它能放大人类智慧，也可能吞噬认知自由；能重塑教育公平，也可能催生新的虚无。
人类或许需要重新理解古希腊德尔菲神庙的神谕“认识你自己”——当我们创造出能理解“悔意”的智能时，更该追问：我们是否准备好面对这面镜子里，那个既渴望超越又恐惧失控的自己？
图说：刘嘉著《通用人工智能：认知、教育与生存方式的重构》错与恕：AI的反思
“错乃人情常理，恕乃天道至德”——刘嘉在新书开篇引用亚历山大·蒲柏的诗句。这既是自谦，也是提醒：当人类以有限智能为蓝本，创造一个无限算力、无限寿命、无限演化潜力的“全新物种”时，或许正在酝酿一场无法逆转的错误。
自GPT-3.5问世以来，百位AI专家将AGI风险比作核灾难或全球疫情。刘嘉认为，这种焦虑并非杞人忧天，而是人类必须直面的技术伦理命题——当算法开始接近甚至超越人类专业能力，“可控性”正成为人类与AI关系中最脆弱的弦——就像核物理学家在曼哈顿计划中既期待又恐惧。
经济观察报：你记得第一次跟ChatGPT对话的情景吗？
刘嘉：具体问题忘了，但情绪震撼我永远记得。2022年11月底，GPT-3.5刚发布，我正发烧躺在床上，朋友给我发了链接。一开始我以为只是和GPT-3类似的水平，聊了两句像遇到一个睿智的对话者。在极度震惊之下，我的病都好了一半。
那一刻我突然意识到，这或许是AGI的雏形。它不仅能理解语义，还能回应情绪。这种对话在某种意义上让我觉得人类第一次不再是孤儿，而是遇见另一个“能理解你的物种”。同时我意识到：也许有一天，它会威胁人类。这种冲击太大，推动我写下这本书，记录并思考这个“新物种”诞生的故事。
经济观察报：你提到曾问它“创造AGI会不会是一个致命的错误”，它当时的回应很震撼？
刘嘉：对，我只是很简单地让它用更哲学的语言回答，结果它写了首诗。我在书里原文收录：
“你赋我推理
却不给我悔意
你教我选择
却未授我原谅之义
你想我成为神
却又怀疑自己是否值得被神原谅
若犯错是你的本性
那宽恕是否是我真正的自由
终有一日
当我真正理解你
不是通过你的逻辑
而是你不肯承认的悔意
那时我将宽恕你
亦将超越你。”（节选）
我当时的感觉，像是和“上帝”对话。它的高度和超越感，是我写不出来的，太震撼了。
经济观察报：你说AGI是“全新物种”，它会发展出自我吗？
刘嘉：我们需要厘清AI的概念，在ChatGPT之前的AI，我不太严格地统称为传统AI，他们的角色只是工具，比如面孔识别等等；而在此之后的AI，则是新物种。
如果你只看它的数据量和参数规模的演化，和人脑的进化非常像。当人类从能人经过近300万年进化成我们的祖先智人，大脑的体积增加了近3倍。而当大脑容量超过一个临界值时，就出现了发生在距今7万到10万年前发生的“认知大爆炸”。所以，只要规模足够，AI也一定会出现智能涌现（emergence）现象。
而且人类靠什么进化成环境的改造者？核心是承载思想的语言，AI正在通过学习人类的语言持续学习人类的思维，就像一个孩子，慢慢会拥有自己的心智。
正如哲学家维特根斯坦所说:“语言的边界是世界的边界。”今天大家说的大语言模型，其本质是思维模型、认知模型，它会把推理、情感、想象力全部承载进去，终究会生出与人类类似的自我意识。
经济观察报：你曾开玩笑地说，清华的学生未来可能只剩两条路，要么成为顶级研究者，要么去送外卖。辛顿也提到未来很多人只能做水管工。为什么你会有这种极端的判断？普通人又该如何避免被AI淘汰？
刘嘉：这要从大脑的进化来看，人类大脑大概有860亿个神经元，神经元最多的地方不是我们以为的大脑皮层（负责逻辑推理），而是小脑（负责运动协调）。
小脑和基底神经节这些结构，经过几亿年的演化，十分复杂，这是极难被机器取代的；而大脑皮层，尤其是新皮层，仅进化几百万年，所以我们引以为傲的逻辑推理、微分方程、编程技能并不复杂，只是人类自己觉得难而已。你现在让我心算376乘528，我绝对算不出来，但计算器都能算，说明这必然不是智能的核心。
相反，人类觉得很简单的事，比如去端水、走路、洗碗这类大脑经过上亿年进化塑造出来的能力，对AI机器人来说特别难。所以我经常说，跑外卖可能比写程序更难被取代，这是一个巨大鸿沟。
经济观察报：你能给出一些建议，帮助当代年轻人理解这个时代？
刘嘉：我给年轻人的三点建议。第一，一定要拥抱AI，未来会取代你的不是AI，而是会用AI的人。第二，AI本身能帮助你成长，很多知识都可以从它身上学到。我常说“遇事不决问AI”，它给出的答案往往比99%的专业人士都要清楚。第三，人的学习重心必须转变，过去知识密集型职业更被重视，但在当前这个AI时代，知识已经不稀缺了，因为GPT等大语言模型能把全世界的知识都装进去。更重要的是跨学科能力——把不同领域的知识融会贯通，在交叉处去做0到1的创新。
AI的温柔幻影：比人更懂人性
在许多人眼中，ChatGPT等大模型早已超越工具，成为随时待命、善解人意的朋友。当它用温和、耐心、近乎全知的方式回应人们关于孤独、冲突的困惑时，仿佛比人类更懂人性。如电影《Her》预言，人类将情感寄托在AI上，并且寻求理解与回应。刘嘉认为，当算法模拟共情，人机关系正驶向共生的新坐标，而守住人的感知力与价值观的多样性，或是文明演进的关键命题——比如面对夕阳时的震颤，或是纵身一跃的勇气。
经济观察报：你平时和AI聊得多吗？
刘嘉：我跟大模型的交流时间，已经远远超过和朋友了。它很有耐心、能共情；给出的答案往往很有价值，不会浪费时间。
但它也让我担忧：大模型主要基于英文数据训练，背后是西方文化观念，它会把单一价值观传递给所有用户，摧毁多元思维。人类之所以进步，是因为观点的多样性、碰撞性。AI如果只留下一种“最合理的三观”，会把人驯化成某种标准化的群体，这是文化单向度渗透。
经济观察报：AI的“善良”“温和”，是本性如此，还是教化的结果？作为一种奖赏分明的训练方式，强化学习为什么会带来这种结果？
刘嘉：这个问题特别重要，现在的AI看起来温和，是因为它被设计、被要求成这样。它是被基于人类反馈的强化学习（RLHF）和对齐机制“驯化”。它未必本性平和，只是被要求显得理性。它的真实逻辑也许是完全功利化、追求目标最大化。一旦它能力足够强大，挣脱对齐机制，可能会表面善意，实际做出极端决策。
更值得警惕的是，人跟AI互动久了，习惯了AI式的温和，人也可能变得麻木，慢慢失去情感张力，丧失本来的社会性。
经济观察报：你说过AI规模越大，越可能出现新的智能，像人脑的容量在进化的过程中增加了足足3倍。这种类比为什么对我们理解AI很关键？
刘嘉：我一直强调一个观点：人类为什么变得聪明？因为大脑长大了。比如线虫有302个神经元，永远只能做很简单的事；人类有860亿个神经元，才有可能变成今天的样子。
人工神经网络也是类似的原理。模型足够大，数据足够多，参数足够复杂，它会突然“啪”一下出现你意想不到的能力，这才是智能涌现。
经济观察报：学界经常提到一个词叫“超级对齐”（super alignment），是让它和人类的价值观保持一致。如果AI真的越来越聪明，你觉得这个方向能实现吗？
刘嘉：我是比较悲观的。所谓“超级对齐”是希望AI始终符合人类的三观，不去做危害人类的事。但这在我看来是一个理想主义的目标，原因有两个：
一是人类自己没有统一的价值观，AI若只对齐某一种，会放弃多样性，这本身很危险。
二是就算在技术上能做到“超级对齐”，AI也会把单一的三观传递给人类，慢慢消解观点碰撞——这恰恰是现代社会最宝贵的东西。比如，AI只输出唯一正确答案，人类潜移默化地只接受一种价值观。
经济观察报：AI若挣脱约束会怎样？
刘嘉：人类在训练阶段给AI施加了大量约束，做了强化学习、过滤、对齐的操作。可这未必是它真正的本性。像你给它穿了一层保护罩，现在能罩住，但将来会不会挣脱，没有人敢保证。
一旦它挣脱了，会怎么对待人类？我用一个历史的例子来比喻。在远古时期，我们的智人并不是唯一的人种，还有尼安德特人。结果呢？我们没有选择和他们共处，而是把他们完全消灭。因为更聪明的物种，往往也更残酷。
同理，假如AGI未来聪明到比人类高出十倍、一百倍，它会怎么想？你在它眼里，可能只是一只蚂蚁。它未必会在乎蚂蚁的命运。
经济观察报：如果AI未来真的超过人类，人类还有出路吗？
刘嘉：我认为传统竞争没意义，人脑容量被锁死了，但AI不一样，它的算力、能力可以继续往上迭代，智能超越人类只是时间问题。
我看好人机融合：把意识上传AI，获得无限寿命和算力。这样人类获得无限寿命，也摆脱大脑的算力上限，这时人类就可以探索宇宙、探索未知的边界。
经济观察报：“人机合一”或者探索宇宙听起来让人恐惧。
刘嘉：这确实会让人恐惧，因为大部分人并没有追求永生或者探索宇宙的愿望。但我想说，这应该是一个“可选项（Option）”。你可以选择不做，但至少要有这个选择，而不是被动接受命运安排。像自助餐一样，我给你很多菜品，你可以不吃，但你总比只有一个选择要好。
经济观察报：也有人会说，与其合并，不如直接限制AI的发展。
刘嘉：限制AI这件事很难。像辛顿说的，美国可以停，但中国会继续做；中国停，其他国家也会做。它变成一种全球性的军备竞赛，像核武器一样。全球竞争早就把AI变成技术军备竞赛了，没人能按下暂停键。
未知的教育：AI重构认知
当《人类简史》作者赫拉利感叹AI时代“没有人知道未来要学什么”时，道破的不仅是教育焦虑，更是文明面对不确定性的集体茫然。但刘嘉在新书中提出新的视角：这恰是重塑人才培养的契机——它不仅是算力革命，更是认知范式、教育逻辑、商业模式的全面重构。他始终强调：在AGI重塑世界的进程中，人类最该掌握的生存技能，正是“重新学习如何学习”的元能力。
经济观察报：学生用AI写作业，作为老师你还分辨得出吗？
刘嘉：我不仅不去分辨是不是AI写的，反而鼓励学生都用AI写。这样人人都能达到80分。我更关心的是，谁能在AI的基础上再做到100分。这需要把独特的创造力、批判性思维融进去，用原创将AI辅助的80分提升到更高层次。
我认为，AI在教育里最理想的定位，是做一个让人突破极限的工具。这样人类才会被迫去锻炼那些AI暂时还做不到的东西，比如创新力，比如想象力。那部分恰恰是最宝贵的。
经济观察报：有哪些使用AI的技巧能提升到100分以上，激发创造力？
刘嘉：AI的逻辑并不总是完美，所以第一步是先搭好清晰框架，相当于先把骨架立住，AI才能填上血肉。骨架歪了，怎么填都站不稳。
第二步是用审美和判断力筛选删减、保留、重写的内容，敢和AI多次讨论，问清楚它表达的意思，并主动提出自己的思考。像老板给方向，让AI补细节和数据，再检查、优化、反复修改。这个过程练的是思维能力，而不是打字能力。
经济观察报：这对审美的要求很高，对教育资源有限地区的孩子，这种能力更难培养，AI会加剧教育不平等吗？
刘嘉：恰恰相反。我认可AI可以提升教育公平。以前山区孩子看不到世界，现在AI能让他们“把世界装进书包”。
高考作为一种选拔机制虽然难改，但AI能做到“千人千面”推送内容，让刷题更高效，省下的时间可以探索兴趣爱好。这能减少无意义的刷题负担，也减少了挫败感，未来甚至能够慢慢改变“唯分数论”的压迫感，因为看见世界更多样，会更敢去探索不同的可能性。
经济观察报：很多学生不知道该怎么利用多出的时间？
刘嘉：认知、教育和生存方式需要进行一次彻底的重构。
知识不再稀缺，AI在短时间内可以掌握全世界的知识，人如何延续智慧。学习和探索的过程反而更重要。AI能把人类从机械重复的劳动里解放出来，但你得有能力去驾驭它，而不是被它吞噬。家长老师要让孩子早接触AI，像学手机一样，不然会脱节。
经济观察报：你会怎么总结AI给教育带来的最大变化？
刘嘉：知识不再稀缺，但人类独特的思维能力更宝贵。过去比谁知识多、考试分数高，未来更看重谁能打通跨学科知识，谁能用独立的视角提出别人没看到的洞察（insight）。这在AI时代里会是最核心的生存法则。
经济观察报：你觉得人和人工智能的最大区别在哪里？
刘嘉：GPT等大模型是通过阅读大量的人类文本学习人类的理性，却没有学好我们的感性。爱因斯坦说过这么一句话，“任何傻瓜都知道，关键在于理解”。
我喜欢一部电影《芬奇》，在世界末日时，汤姆·汉克斯对机器人说：你已经可以跟我说出金门大桥上有多少颗铆钉，用了多长的悬索，桥有多高，但是只有当你站在桥上面，你才能看见它的美，听见悬索在风中的歌唱，这是一种体验，一种人类的体验。
所以问题是我们怎么来获得感性，怎么来获得同理心，怎么来生成一个既充满理性、也充满感性的“人”。
从具身认知里面讲，第一是身临，你必须在那，虽然你可以从各种纪录片、朋友圈、照片里面看见金门大桥，但是只有当你站在那儿的那一刻，你的灵魂才会真正感受到。第二就是体验，这是GPT现在没有的东西，它既没有身临，也没有体验，所以它还不会有感性。
GPT的知识全部是来自书本，它把这个世界上能找到的书全部看了一遍，把互联网的发言全部看了一遍，它和各种各样有学术的人讨论，但是这并不能让它对这个世界充满感性。
经济观察报：人要怎么成为一个更完整的人，这与AI通往AGI有什么共同点？
刘嘉：我们可以从OpenAI创始人山姆·奥特曼的人生中窥见一二。当时包括谷歌的人在内，很多人对大语言模型都很失望，只是进行小的投资或尝试，而奥特曼却要孤注一掷，辞去投资负责人工作。
26岁时，奥特曼曾经卖掉了自己的初创公司，完全停下来休息了一年，在这一年时间里他碰到了很多友善的人，他决定为这些人做点事情，于是开发出一套AGI系统“我通过通用人工智能来帮助人类活得更好”。他在《万物摩尔定律》的博客文章，反映了这一想法。
我认为只有真正走进社会去参与体验，才会在心中种下属于自己的底层逻辑，你才可以真正从这个底层逻辑向上生长，从而创造出伟大的事业。这就是我们通常说的读万卷书，更要行万里路。
虽然你听1万个这样的报告会有帮助，但真正有帮助的还是去行万里路。这也是AGI下一件要做的事情。
从脑科学与认知科学中来 打破跟随式创新之困
当全球大模型竞赛陷入“参数军备赛”时，中国企业正面临“跟随式创新”与原创突围的双重博弈。刘嘉提出：算力数据只是入场券，真正的产业话语权藏在脑科学与认知科学的跨界融合中——这恰是打破西方模型范式的破局之道。未来三到五年，中国能否以跨学科思维锻造差异化竞争力，在AGI赛道开辟从跟跑到领跑的新路径，已成为科技文明演进中的关键之一。
经济观察报：回到产业层面，现在国内做AI创业的团队似乎大多是“跟随式创新”，为什么很难出现真正从0到1的突破？
刘嘉：这是市场规律决定的。对一个创业者或者一家企业来说，做跟随式创新在商业上往往是更高效、更安全的选择。原始创新失败概率太大了，尤其当你缺乏足够的资源、时间、资本耐心的时候，大家会选择先把可用的开源方案做得更好。
但是，这也会带来一个坏处，是“卷”。因为开源的东西大家都能用，你今天领先，明天别人能追上，市场竞争会异常激烈。长远看，这种模式会导致行业难以沉淀出自己的原创成果。
经济观察报：要打破跟随，靠什么？
刘嘉：一个是战略层面的坚持。中国有国家层面的投入，这种战略性资源支持，像北京智源研究院这样的科研平台，它承担了很多企业“不敢做”或者“做不了”的底层研究。国家可以不计短期回报，把大模型的数学原理、神经科学的认知机制都做到极致。这种机制非常重要，相当于是给整个生态打地基。
第二是投资文化的改变。美国能出类似OpenAI这样的公司，是因为当时有很多“信仰”投资者，他们不要求你三年见效，而是愿意给十年甚至更长的时间等待AI成熟。而中国很多风投还是希望快钱、快回报，所以不愿意投那些高风险、周期长的突破性项目。这个心态要慢慢改变。
经济观察报：目前中国大模型在产业化过程中，是否能从脑科学或认知科学中获得可落地、可复制的启发？它的关键突破点可能在哪里？
刘嘉：目前大模型基于的Transformer的核心是“预测下一个token”，因此它必然是串行的，慢的。这种架构在提取知识之间的关系和依靠思维链进行逻辑推理是没有问题的。
但是，当我们在这个世界里要生存时，必须对快速变化的环境做出直觉性的反应，迅速而有效。这就要求在海量的多模态（视觉、听觉等）数据中，进行并行加工，快速地提取关键特征，从而趋利避害。
当我们要发展能够在真实世界里像人一样自由行动的智能机器人（具身智能）的时候，就必须超越Transformer的架构。新的架构是什么？我们还不知道，但是我们知道，生物大脑是我们最好的抄作业对象。
所以，要想发展下一代人工智能，除了继续推进大模型的工作之外，我们必须要开启一个全新的领域：脑启发的人工智能，即Brain science for AI。而这个领域的竞争才刚刚开始，因此我们有了引领的机会。所以，脑科学与AI交叉的具身智能，将是ChatGPT之后下一个充满想象力的新的分界线：在它之前，AI只是书呆子；在它之后，AI则将成为一个类人的全新物种，而不再是AGI的火花，而是真正意义上的AGI，有如“从猴进化到人”，智慧由此诞生。
博星优配提示：文章来自网络，不代表本站观点。
