蔡翱AO CAI · PERSONAL JOURNAL
← 返回文章列表

·技术与工具

主动智能:探索那 71% 的智能起源

和小艺大模型的一号位聊了他的创业idea,让我对“智能从何而来这个命题”有了更深的思考。 孩子通过教导与自主探索共同成长。由此出发,我思考主动智能(Proactive intelligence)如何取得对自身学习过程的主动权,怎样从感知与交互开始,在感知、决策和行动的 scaling 中走向持续的自我改进。那 71%,是任务之外仍待探索的智能成长空间。

引言:主动智能和师兄的项目

前天,和我一个师兄,国内某头部的模型一号位聊创业思路,他主要关注的命题是主动智能(Proactive intelligence),刚好和我最近很多想法碰撞出来,因此想记录一下。

他对于主动智能的理解和应用,主要落脚在了具身智能这个场景,在他看来一个很小的命题是:这些摆在展览馆的导引机器人,动作单一、反馈僵化,每次来都是挥挥手比个心跳个舞,实在是有点…不堪入目

而他认为,推动AI从被动响应走向主动感知、自主决策与智能行动是一个很好的研究方向。他希望让AI不仅能够理解和执行指令,更能够在复杂、动态的环境中主动发现问题、理解需求、预测变化,并自主规划和完成任务。

我对这个命题很感兴趣的同时,直觉告诉我,他这个项目的落脚点,可能压低了他做的事情本身的天花板。

具身智能的Action,太重了。

AGI到底从哪里生长而来

我最近一直在探索一个命题,General Intelligence,或者说AGI,到底从何生长而来?

鉴于人很难想象自己未曾见过的东西,所以我还是从一个基础的逻辑说起:人的大脑就是一个大模型,身体则是Harness。

孩子出生时,带着感知、反应和学习的初始能力,拥有一套结构与少的可怜的先验。

此后的经历逐渐则逐渐让他的知识与能力不断增长,这些知识与能力,简单来说就是人脑的参数和Harness。

人类非常重视孩子的教育,大刘在《山村教师》中把教师这个职业,上升到了一个落后的、缺乏记忆遗传的文明(人类文明)的传承者和构建者的高度。

广义来讲,家长和教师都算是教育的环节:家长教孩子说话、识别颜色、使用工具,告诉他什么可以做、什么有危险,教师则采用示范、练习等方式提高孩子的专项能力。

孩子的领域特化知识,和世界知识乃至世界知识抽象出来的世界观,被不断塑造,然后这个模型的能力逐渐提升。

但智能不仅仅生长于此。

孩子怎样认识世界

父母展示一种做法,让孩子观察、模仿、练习,类似于模型 通过示范进行 post-training:做对了鼓励,做错了引导,失败以后调整并重试,则让人想到后训练中的强化学习(RL):success、failure 与 recovery 提供反馈,帮助他改善行为。

孩子自己与世界的接触,提供了另一种经验。

我们经常看到宠物或者婴儿(其实都是一样的,甚至观察宠物的交互行为更加的容易)做一些大人看起来无意义的重复动作,比如一次次把某个玩具拿起来再扔下,比如一次次的把饭勺扔在桌子上。

我觉得可以用这样一套理论来说明这个行为: 这是孩子通过prediction error探索世界的一个方式,孩子会隐式的对扔勺子,勺子会怎样落下、滚动、滑动形成预期,再通过观察,把实际结果与预期比较。两者之间的差异,就是 prediction error。

然后他可以改变力度,换一种物体,试一块不同的地面。

最初,世界给予这个动作的反馈是充满着uncertainty的,和大人不一样,孩子对这些互动的prediction error还没有收敛,所以这些大人眼里看起来的“无意义”指的就是loss早已收敛,而实际上对孩子而言,prediction error还远未收敛。

这便是模型的训练过程,当loss足够的小,我们就会说:孩子长大了。

甚至孩子可能再也不乱扔勺子这个结果,其实是因为,这个交互对孩子而言已经没有了uncertainty,loss小的忽略不计。

我们只会讲,嗯,孩子长大了。

婴儿对物理世界的认知并不是与生俱来的,在各项研究中都有证实,之前读过一本心理学实验的书,大概是详细的讲述了心理学历史上著名的40个实验,里面有一个实验就具体描述了孩子对于“高度差”的认知,在科学的实验上被证明是后天习得的。

也就是说,婴儿有眼睛,有耳朵,有触觉、嗅觉,这些似乎随手可以调用的MCP工具产生的数据(感知输入),可能从时序对齐、数据清洗、模式识别、多模态感知到生成初级世界模型(感知高度),都是后天不断训练出来的,那认真思考婴儿是如何形成自己的World Model,似乎还是蛮有意义的。

研究者曾让七个月左右、尚不会爬行的婴儿操作自控移动装置。经过十五天训练,他们利用视觉信息感知自身移动的能力,以及面对高度时的警觉指标,发生了变化。自主移动的经验,帮助孩子把眼前的深度与自己的身体联系起来:这个地方能不能过去,向前移动会发生什么,怎样保持平衡。

行动改变观察,观察又改变下一次行动的预期。世界通过行动的后果提供信息,孩子在反复预测与修正中逐渐理解它。

这让我想到 pre-training:预测、比较、修正,经验中的规律被内化为能力。孩子又进一步参与了学习材料的生成——自己决定下一次去看什么、碰什么、尝试什么。

Observation 提供经验,exploration 让智能主动选择下一次获得什么经验。

教导与反馈传授已有知识,自主探索不断生成新的经验,两者共同塑造着孩子。

我常觉得,童心有两层含义:一层是对世界不设限,愿意尝试;另一层是世界还充满未知,每一次互动都能带来新发现。随着经验积累,许多事物变得熟悉,原来的不确定性逐渐消退,童心也容易被习惯代替。

然后很多人只会感叹一句,哎,我们老了,跟不上时代了。

额外插一句,永远年轻,永远热泪盈眶,在此刻好像有了新的、特别的含义,那就是:不要设限,持续的更新大脑这个模型的参数去吧!

保持好奇,让我们继续愿意问、愿意碰,把理解世界的边界再向外推一点。

取得对自身学习过程的主动权

回头来讲模型、AGI和RSI。

今天,模型的能力增长仍主要围绕外部组织的资料、任务、示范和评价展开。

我们准备数据,设定目标,提出问题,再引导模型改善结果。

孩子的成长提示了另一片空间:智能可以主动参与经验的生成,选择自己接下来怎样被训练。

很多成语都说明了在我们碳基生命的认知里,一些能力的重要性,例如“举一反三”讲的是泛化能力,“授人以渔”说的是方法论抽象很重要。

我们常在教育中要求重视培养孩子“启发性思考”的能力,也是如此。相比于家长的提问对孩子的post training,我们甚至更关注是否通过这些教育方式,激发了孩子自己的兴趣与好奇心,让他开始寻找问题、尝试答案。

外部引导由此培养出内部的学习驱动力,也逐渐把学习的主动权交给孩子。

在大模型的领域里,也有一些论文去支撑这样的范式,比如好奇心驱动探索、Plan2Explore 等研究,都是依据已有的认识、尚未理解的现象,以及可能获得的新信息,选择下一次探索。

由此,我认可一个命题:主动智能是通用智能生长的重要环节。

再往前推一步,智能掌握一种规律以后,可以更有效地选择下一次尝试;它更会比较、求证和识别有效反馈,也就更会学习。

这便是Learning to learn。

能力的增长,开始改善能力增长的方式。递归(recursive)的意味在这里出现:变强后的智能,反过来提高下一轮让自己变强的效率。

要形成自主、持续的递归自我改进,智能必须逐步取得对自身学习过程的主动权。

这种主动权,体现在发现值得研究的问题、选择有价值的经验,以及逐渐改善自己的探索与学习方法。

如果买回一个机器人,让它叠衣服,它能做好,我会觉得这是一个及格的结果。

我还期待它在没有任务的时候认识这个环境:拿起烟盒看看,接触杯子,尝试不同的观察方式,把获得的经验内化到后续能力中。

最近与我的一个师兄,华为小艺大模型的一号位聊他的创业项目,其实最初让我关注的是感知介入(interaction):观察周围正在发生什么,判断什么时候值得回应,其实这是一个很好的出发点,从被动智能走向主动智能(proactive)的出发点。

沿着这个问题继续想,介入也可以成为主动探索在交互中的具体行动。

通过询问求证、调整视角,并从结果中学习,智能开始把参与眼前情境与塑造自身能力接在一起。

主动智能与直觉

孩子伸手去碰一个球,通常不会先花几分钟思考怎样使用手臂和手。他会直接伸手,获得新的观察。过去的经验,使他能够迅速判断什么值得尝试、怎样开始尝试。

我在家里打字,忽然站起来,在几个地方来回寻找。女朋友也许很快就会问:“你是不是在找钥匙?”

我打了个喷嚏,女朋友会关心说:“你是不是感冒了?”

她把我的习惯、动作和眼前的变化联系起来,及时作出判断。

换成一个智能系统,这句询问也可以是一场小小的求证:我的回答帮助它检验自己的理解,并积累下一次判断所需的经验。这也是前面所提到的prediction error所参与训练的一个范式。

我的理解是,直觉是大量预测与修正所得的规律,被压缩成可以迅速调用的隐式先验。

它让经验及时参与下一次行动,提高探索效率,也帮助我们在恰当的时刻介入。

最近市场上很火的一个模型叫做 Jev,这样的快速结构化决策模型,为我提供了一种功能上的参考:把已有信息转化为低延迟的判断。连续输入意味着密集的选择——什么值得注意,是否继续观察,什么时候询问,什么时候回应。面对陌生问题,或需要综合线索、推演后果的情境,则可以类比 Astra 这类模型的深入思考能力。

我所期待的主动模型,会把表征、压缩和快速决策结合起来,理解连续发生的情境,迅速调用已有经验,并在复杂问题上投入深入推理。长期学习,也会让一部分曾经需要认真思考的判断,逐渐沉淀为更快的能力。

从一个小小的交互开始

把主动智能拆到最基本的功能,是感知、决策和行动。

感知获得信息,决策选择关注和介入什么,行动发起互动或改变环境,随后发生的事情又成为新的经验。

今天,我们可以先让这个循环在一个简单的场景里运转起来。

感知端,从一个摄像头和一个麦克风开始。更多输入对时间对齐、多模态处理、数据管线和并发能力提出更高要求;先让一组视听输入稳定进入模型,就可以开始持续观察、保留上下文,并通过交互了解缺失的信息。

家庭是一个值得尝试的场景。同样的人、物体和活动反复出现,又不断发生变化,系统有机会逐渐认识一个人的习惯、一种声音的含义,以及自己回应以后发生的事情。

现在提起来“感知 - 决策(是否介入) - 行动”这个闭环的落脚点,师兄觉得具身智能是一个不错的场景。

人类拥有灵活的手、细致的感觉反馈和协调的运动控制,能够广泛地改变环境。

当前机器人在复杂操作上,还面临机械结构、运动控制和工程可靠性的约束。我们讲,手跟不上脑子,就容易是这种感觉,本体限制了对环境的探索能力上限。

而我则认为,先用语音和简单动作承载交互,就给观察与探索找到了一个可以开始迭代的地方。

电子宠物因而成为一种很有意思的产品参照。

面对人形机器人,人会自然期待它听懂指令、可靠办事、具备广泛常识。

面对宠物,一次恰好的转头、一次主动关注、一个及时的回应,就可能带来惊喜:它居然懂了。

产品形态改变了人对同一种能力的预期,也改变了这项能力带来的情绪价值。

宠物还容纳了另一种交互节奏。它可以在大量时间里自己观察、活动和玩耍,在少数恰当的时刻与人互动。

它有自己的注意力,又会在合适的时候注意到我,关系在共同经历中逐渐形成。

Hugging Face 与 Pollen Robotics 的 Microduck 小鸭子,让我想到这种可能:一个小巧、动作范围有限的载体,也能承载丰富的表达与互动。

如果以主动智能为内核,互动的内容、时机和方式就可以随着经验变化。

对情境的关注、对共同经历的回应,以及逐渐形成的相处方式,会赋予电子宠物与 AI 硬件新的生命力。

产品在这里提供了持续接触世界、与人长期相处的机会。每天的共同经历成为学习材料,新的能力又改变下一次相处。一种新的交互方式,也因此有机会成为一种新的能力生长方式。

感知、决策与行动的 scaling

从这样的起点出发,我关心的是感知、决策和行动三个方向的 scaling。

感知的 scaling,让系统接触更多种类、更大范围、更连续的信息。

从摄像头和麦克风,到更多视角、全屋传感器、设备状态乃至触觉,它能够认识的世界越来越丰富。模型还需要把不同时间、不同来源的观察联系起来,将充盈的输入压缩成有效的表征。

决策的 scaling,让它更会理解、预测、选择和学习。

经验形成先验,快速判断使能力及时参与交互,深入推理帮助理解新的问题。群体探索又扩大了经验的广度:大量个体接触不同家庭、物体与情境,共同发现规律,一个个体的发现可以帮助其他个体继续探索。

这些经验进入模型更新,推动 self-improvement。进一步,系统可以依据已有认识,改善问题选择、探索策略、经验筛选和学习方法。前一轮获得的能力,提高下一轮改进自身的效率,recursive self-improvement 的循环由此运转。

行动的 scaling,则增加了检验假设的方式。

从语音表达,到调整视角、移动位置、操作数字设备,再到接触物体和完成复杂动作,每增加一种可靠的行动能力,都可能打开新的经验空间。能做什么,也决定了能够怎样认识世界。在这条线上,从一个 MicroDuck 到人形机器人,其实是Action Scaling的一个方式而已,既然是Scaling,那么起点肯定就不是人形机器人,而是 MicroDuck, 甚至…更加优雅而简洁的 MiniDuck,甚至是一个装了摄像头的音箱而已。

三条路径相互推动:更丰富的感知帮助选择更有价值的行动,行动带回新的观察,学习改善模型,新的能力又改变下一轮经验的获取方式。

智能更强,能够获得的经验也更有价值;经验更有价值,智能就有机会继续变强。

它可以存在于电子宠物、音箱或人形机器人之中。不同载体赋予它不同的感知与行动能力,也就形成不同的互动方式。我真正关心的是,随着这些能力不断增长,智能会怎样理解环境、选择值得探索的事情,并持续改善自己的成长方式。

探索那 71% 的智能

潜水吸引我的一点,是它提醒我们:熟悉的陆地只是世界的一部分,水面之下还有一个广阔的世界。所以推荐别人学习潜水时,我经常会说:“学习潜水吧,去探索地球剩下的 71% 的美丽。”

智能的成长让我产生类似的感受。

我们已经非常重视资料、任务、示范和反馈,也擅长围绕明确目标组织训练。

婴儿的成长则提示了另一片广阔的空间:没有人布置任务的时候,观察和探索仍在持续发生,经验仍在塑造能力。

主动智能(Proactive intelligence)的一个落脚点就是感知和介入,感知和介入是主动智能的一个子集,主动智能则是通往RSI的必要条件。

我愿意借用海洋的比喻,把这片空间称为“那 71%”。主动智能的技术逻辑、起步场景与 scaling 路线,正在尝试进入这片空间:让智能主动生成经验,从经验中形成能力,再凭借新的能力,继续认识更大的世界。

在这片空间里,智能逐渐掌握的不只是更多知识,还有自己怎样成长。

聊几句

无需注册,昵称和留言即可。邮箱选填且不会公开;留言审核后显示。

正在加载留言……