蔡翱AO CAI · PERSONAL JOURNAL
← 返回文章列表

我们可能都被知识诅咒了

人类永远无法想象出自己未曾接触过的事物,甚至连做梦时的想象力都贫瘠得可怜,拼凑出的怪物也不过是现实经验的组合;但另一方面,知识又给我们降下了巨大的诅咒,让我们根本忘不掉拥有知识之前的样子。从这个角度讲,人类既无法向前迈出一步,凭空捏造出一个全新物种,又无法后退一步,清空脑子里的符号和逻辑,想来,这是碳基生命近乎宿命的悲哀。

心理学里有一个经典的敲击实验:让你在脑子里默唱一首耳熟能详的歌(比如《生日快乐》),同时用手指在桌面上敲出节奏,让对面的人猜歌名。

敲桌子的人总觉得这题送分,毕竟旋律在自己脑子里响得震耳欲聋;但听的人却一头雾水,因为他听到的只是一串毫无意义的木头声响。

这就是“知识的诅咒”:一旦你掌握了某种高阶知识或认知框架,你就再也无法想象“没有这套知识时,世界看起来是什么样子”。

再直白点的话,你可以在脑海里绝对静默的读这段文字吗,你做不到,你关不掉那个自动朗读的声音,你也是那个敲桌子的人。

这两年看具身智能和世界模型的讨论,我总觉得整个行业就像那个拼命敲桌子的人。

大语言模型靠着 Transformer、Attention 和 Scaling Law 跑通了“算力+高质量数据”的暴力美学,为了喂饱模型,Anthropic 四处搜罗稀缺实体书去扫描,OpenAI 请来全球各领域的顶尖大脑自建数据集,再这套范式太成功了,以至于当大家转向具身智能和世界模型时,几乎不假思索地照搬了同一条路径。

但物理世界的数据维度更高,现实中又极度匮乏。

在既没法大力出奇迹、家里又没矿的窘境下,现在的具身智能像极了一个精打细算的穷孩子:只能在各个 Layer 上不断想办法,数据不够就拿 Sim-to-Real 仿真合成、遥控遥操作来凑;控制不灵,干脆把大语言模型直接搬到动作模型(Action Model)前面,拼出 VLA 或 VLM 这类架构。

我们之所以在一条拧巴的路上精打细算,本质上是因为我们都被知识给诅咒了。

人类站在演化的顶端,习惯了用语言、逻辑和抽象符号理解世界,而大语言模型恰好攻克了人类最顶层的符号推理;于是我们傲慢地默认,符号与语言就是通用智能的唯一底座。

要跳出这个诅咒,唯一的办法是回到第一性原理去做减法:如果彻底剥离掉人类引以为傲的语言和知识库,一个能在物理世界里探索、适应并活下去的智能,到底长什么样?


全局性失语症患者的生活,还有我家的福宝

语言,真的是感受物理世界、建立世界模型的必要条件吗?

显然不是。

临床上有一类全局性失语症患者,因为脑部受损,他们彻底丧失了理解和生成语言的能力,既读不懂字,也说不出话,但在非语言测试中,这些患者依然能下国际象棋、做算术、处理复杂的空间关系,甚至在日常生活里灵活地适应环境。

这说明在人类大脑底层,语言和思考本来就是两套独立的系统。语言不过是一层用于交流的高级抽象(Layer),而不是智能得以运转的底层操作系统。

其实不用看脑科学,看看我家的小狗就知道了。

他叫福宝,从四个月大起,就在我家蹦蹦跳跳。

福宝显然没有人类语言。如果把它的哼唧、汪汪叫都算作词源,它一辈子的语音输出空间可能也就 500 个 Token,脑子里更不会有几百亿参数的语义网络。

但这丝毫不妨碍它拥有一个极度丝滑、属于小狗的世界模型。它在屋里观察、触碰、绕开障碍去追一颗滚落的球,一举一动都完美契合着物理规律。

表达空间的极简,绝不妨碍内部表征空间的丰富。

就像 LeCun 常说的隐空间表征,福宝扑向皮球的那一刻,根本不需要在脑子里把画面翻译成球在左边,我该左转,也不会像某些前沿趋势鼓吹的那样,在脑子里内置一个算清地面摩擦系数和滚动阻力的“物理求解器”。

正如机器人学家 Rodney Brooks 所言,真正优雅的底层智能根本不需要显式的符号表征,感知与动作本就是直接咬合在一起的。

反观现在的 VLA 架构,以及堆砌在 VLA之上吸血的各种 Layer,非要在高带宽、毫秒级响应的物理感知与动作之间,塞进一层低带宽的语言模型、各种符号表征去做中转。这完全是用人类的知识诅咒,去给机器套枷锁。


你见过背着喷气背包的大熊猫吗?

生物体面对连续、高维、动态的物理输入时,其主要交互能力可能建立在一种快速、非显式推理的机制上,我想表达的是,模式识别才是驱动物理世界交互的原生能力。

推理是一种极其耗能的慢思考,在生物 99% 的日常存活,依赖的是对外界千万级bit/s的多模态输入之下毫秒级响应的直觉,这是高维度的模式识别。

人类大脑作为自然界最强的具身样本,首先是一台处理连续时空流的模式识别机。

不妨做一个思想实验。假设你正熟练地开车在马路上行驶,突然,马路中央窜出一只背着喷气背包、手里挥舞着日本武士刀的大熊猫。

那一秒钟你会干什么?你的第一反应一定是大脑空白、手脚僵直、本能地猛踩刹车。

这就是生物演化留下的 “冻结反应”(Freezing Response),这也是被生命科学验证过的,杏仁核的高级和低级的两条通路就是这样工作的。

当你看到一个祖祖辈辈几百万年没见过、个人经验库里也完全不存在的画面时,大脑的模式识别瞬间匹配失败。此时,生而为人的底层生存代码会被立刻触发:产生恐惧,强制压缩你的探索欲和行动空间,让你先停下来活命。

模式识别才是贯穿我们日常智能的最大部分。

我家福宝也是这样:它在家里上蹿下跳,是因为家里的环境模式早已被它识别透了;一旦带它去一个陌生的地方,它的模式识别失效,就会立刻表现出害怕、退缩,只能一点点重新去嗅探、去试探。所谓恐惧,剥掉人类赋予的情感滤镜,也许就是模式识别匹配失败后,系统进入重新探索的状态。


看过穿越主题的短剧吗?

如果模式识别和快速交互才是物理智能最底层的能力,那么一个问题就出现了:当算力和训练数据都收到物理约束时,我们为什么不集中资源,先把这套底座训练好?

今天的具身智能,我们不仅要求模型拥有强大的感知与行动能力,还同时希望具备人类顶级的推理能力、无所不知的长期记忆,以及对陌生任务/不同身体的零样本泛化能力。

这就是我认为很离谱的训练目标的执念:1. 迷恋“零样本泛化(Zero-Shot)”,2. 幻想“跨本体泛化”,3. 希望长期记忆可以随时被调用。

现在的模型,我们希望跟它讲一句“你叫福宝”,它这辈子都不能忘;可福宝刚来我家时,我连着喊了它两天、做了无数次喂食反馈,它才知道自己叫福宝。

甚至当你叫它“咕咾”的时候,它也会抬头看你,这根本不是推理或理解,这只是对声纹的模式识别,可能底层而言,它长久的互动中明白了一个道理,对这类声纹有效反馈,可能会获取食物,增加自己生存的概率,仅此而已。

更不切实际的是对极端泛化性的追求。

现在很流行各种穿越短剧,如果你真把一个古代小孩瞬间投放到现代的苹果工厂里让他打螺丝,他在庞大陌生信息的冲击下,大概率会当场惊恐崩溃。

连人类这种泛化能力最强的生物,跨时空、跨环境都需要时间去适应,我们凭什么要求一个几十个B的参数模型,在算力受限的情况下一上来就对陌生世界实现“零样本泛化”?

零样本泛化也许就是第一个被裁剪的训练目标,泛化也许就是需要时间和经验积累的。

而“跨本体泛化”则走得更偏。

跨本体的前提是把本体和智能剥离开,PR展示出来的一个“通用具身智能基座模型”,可以随便插拔到四足狗、人形机器人或机械臂上。

还得回头来看神经科学,毕竟我觉得这是对人这个“又具身又智能”的物种研究的比较透的学科。

很多脑梗康复期的病人会出现“躯体失认症”,哪怕他作为成年人的智商完全在线,他醒来后也会觉得那条偏瘫的胳膊是新长出来的异物,甚至觉得这是别人塞进他被子里的一坨肉,在康复中重新学会控制这条胳膊是难如登天。

以人类的智力和算力,去跨本体接管自己原本的胳膊都如此费劲。

然后,我们却指望在有限的算力下,让模型脱离具体身体去涌现跨本体的通用能力,这无异于天方夜谭。我有一种有限置信的直觉,身体与智能的耦合程度,可能被当下部分通用机器人模型的研究范式低估了。甚至可以说,智能必须依附于特定的本体才能存活。

目前行业里大量的算力,其实也都浪费在了这些违背第一性原理的错误奖励函数上。


要不我们尝试着寻找一下最小可行解?

把语言表征、符号推理、长程记忆、指令遵循、跨本体幻觉和零样本执念全部砍掉之后,我们要找的那个具身智能“最小可行解(Minimum Viable Model)”可能逐渐清晰,在有限算力约束的情况下,把训练资源更多投入到具身感知、动作控制和交互学习,是否更有机会获得一个强大的基础智能体?

为什么我们一直在聊神经科学和生命演化?因为直到今天,人类能想象到的具身智能最优解,依然是碳基生命自己,你看,人类几乎无法想象自己没见过的东西。

小狗出生两周就能跑,说明在它出生前,对鼻子、眼睛、四肢这些末端执行器的基础控制,以及最底层的生存本能,已经作为一套“出厂设置”训练好了;而剩下的所有能力,全靠它出生后带着这套身体与环境交互、在反馈中自我进化。

如果再往深处追问一步:是什么在底层驱动一个生命去产生好奇心、去交互和进化呢?

我个人觉得,好奇心不是底层代码,更接近真相的答案可能是对环境的适应与生存。

地球本身就是一个带着明确反馈的超级训练场,四季更迭、病毒演化、食物链博弈,构成了一整套复杂的筛选机制。

在这个场域里,好奇心太重、到处乱闯的个体容易送命;毫无好奇心、完全不动弹的个体也会在环境变化时被淘汰。最终是环境通过环境和演化,帮生物把那个最合适的探索参数与学习机制筛选了出来,写进了基因的出厂设置里。

碳基生命完成这场筛选,靠的是一代又一代漫长的肉体繁衍,动辄数以万年计;也许当我们转向硅基生命时,我们目标创建的系统拥有一个望尘莫及的优势:极致的并行能力与迭代速度。

就像 AlphaGo 可以同时并行推演无数盘棋局一样,虽然我们今天的算力不足以直接堆出一个无所不知的物理神明,但我们有可能可以,仅仅是有可能可以,在实验室里,构建一个带有明确反馈机制的硅基演化环境。

通过调整环境参数,我们可以同时生成一万个与本体深度耦合的智能体种群,让它们在一个优雅的、简短的驱动力和反馈代码中,快速迭代一万代、十万代。

这就是我想总结的主张:通过大量并行和快速演化,去筛选出一个本体高度耦合、抛弃了语言表征与符号推理、且具备自进化潜力的最小可行模型。

如果有人问,人类之所以能统治地球、造出火箭,靠的恰恰是那 1% 的符号与语言推理。我想说,大自然花了五亿年去演化运动与感知的底层模式识别,直到最近几十万年,才在人类大脑皮层上“挂载”了语言插件。语言从来都是演化树顶端的果实,而不是树根。只要这个基于毫秒级模式识别与自进化的底座真正立住了,再去挂载语言推理、训练它的指令遵循能力,不过是顺水推舟的事。

规矩立住了,才能不烧心 ;)

经过成千上万代演化筛选出来的结晶,就是我们要找的那个刚出生的硅基婴儿,是一个“电子福宝”,是一套极简却充满可塑性的出厂设置。

再然后,如果我们把这个出厂设置放进真实的物理本体,扔到一个陌生的房间里,让它像福宝一样通过模式识别与环境交互去做后训练、在递归中自我迭代,那可能我们真的找到了硅基生命的起点。

当然,还有一连串问题等着我们:这只“电子福宝”的最小闭环里到底需要保留哪些核心能力?

如果只有一个底层的生存目标,在一个受控的训练环境里,怎么防止它永远趴在充电座上装死?

这篇文章里我尽量回避具体的训练范式,但我也想自我剖析一下,很有可能,碳基生命之所以能演化出精妙的出厂设置,是因为地球环境本身的复杂度是近乎无限的。而在实验室里搞硅基演化,最大的瓶颈往往不在于智能体的算法,而在于人类永远无法写出一个足够丰富、不带人类先验与偏见(你看,又是知识的诅咒)、且不被智能体钻空子(Reward Hacking,就好比充电座装死的电子福宝)的演化环境。

这套先演化、后成长的训练范式具体该如何落地,过去又有哪些前沿研究值得我们拆解和借鉴,我也许有一点灵感,后面慢慢再聊。


人类真的无法破除知识的诅咒吗?

当一个技术时代取得了巨大的成功,它的成功经验会不会反过来限制人类对于下一种智能的想象?

20世纪初是物理学界神迹辈出的年代,即便如此,彼时的所有物理学家,都被牛顿力学的知识诅咒了。

那时候最顶级、最智慧的头脑也习惯了绝对时间和绝对空间这套无比成功的知识框架,包括庞加莱,包括洛伦兹。

而爱因斯坦之所以伟大,可能就在于他完成了一次肉眼凡胎几乎不可能做到的事情:他忘记了自己的感受,忘记了时间是均匀流逝的这一如此平凡的常识,像一个没有被牛顿力学诅咒过的孩童一样提问:如果光速本身就是出厂设置,而时间只是我们看钟表的一种错觉呢?

今天的创业者都在讨论自己的世界模型、VLA、数据飞轮、Scaling Law,以及具身智能何时迎来 GPT 时刻。

也许,具身智能可能根本不需要在现有范式上解决问题的所谓“GPT时刻”,需要的是重新定义问题的爱因斯坦。

而我只是那个抱着一本《自然哲学之数学原理》的小孩,读至精妙处,如蜉蝣望青天。

我们可能都被知识诅咒了。

聊几句

无需注册,昵称和留言即可。邮箱选填且不会公开;留言审核后显示。

正在加载留言……