救啊我说……机器人界的 GPT-3 时刻，好像真来了！？
GPT-3 当年看几个例子就能学会一项新任务的本事，现在直接在机器人身上上演了——
哪怕是从没学过的新活，只要给机器人看一段 3-12 秒的动作示范，人家下一秒直接大干特干！！！
你先教机器人拿刷子扫东西，转头把刷子换成一根香蕉，它居然顺手拿香蕉继续扫——
瞧嘛，这回连完整动作都没教，人家自己琢磨出了一只手扫、一只手接的双手配合，神了：
一个主打 One-shot Learning 的机器人模型，通过大规模物理数据预训练，能让机器人只看几秒示范，就快速学会新任务。
此外，这模型还能把两段不同的教学演示拼起来学，模拟器里看一遍，转头到了真实世界，也能直接上手。
整个训练过程甚至可以做到 0 梯度更新、0 微调。
甚至吧，这些能力根本没人手把手教过，而是在大规模 Physical Data 预训练过程中模型自己「悟」出来的。。。
机器人届的 GPT-3 时刻，可能真的来了。
不知道大家还记不记得。
GPT-3 当年真正把人《看愣》的能力之一，就是 In-Context Learning。
给模型一个或者几个例子，它不用重新训练，光看上下文，就能临时 get 到一个新任务要怎么做。
而 Generalist 这次做的事情，则是直接把这套玩法一脚踹进了「物理世界」——
GEN-1.5 是团队连续预训练 8 个多月搞出来的新一代机器人基础模型。
底子还是那套底子，继续猛吃真实世界里的物理交互数据，但这回一个很关键的新本事冒出来了：
刚刚发生过的动作，也可以进入 Context！！！
就拿下面这个《杯盖堆堆乐》来说。
人类先演示 3-12 秒，整个过程中没有梯度更新，也没有任何微调，GEN-1.5 看完这段 Physical Prompt，转头自己就能上手。
主打一个你前脚刚演示完，后脚小机器人：得嘞，您瞧好了哈～
甚至我浅浅粗略算了一下，从学习技能到完成任务，大概也就花费「半分钟」的时间？？？
比如先给它看一段 A 动作，再看一段 B 动作，模型可以自己把两项技能串成一个连续任务。
中间那些没人演示过的衔接动作，它也得自己搞定。
重新定位、调整抓法、切换姿势，甚至中途出了错之后怎么继续往下做，都可能由模型自己补出来：
因为虚拟世界里的 Demo，这模型也照吃不误。。。（孩子是真不挑 .jpg）
脚本策略跑出来的动作、强化学习 Agent 做出的演示、人类在模拟器里遥控机器人完成的操作，都能被塞进它的上下文里，当成 Physical Prompt。
下面这个例子就很直观，GEN-1.5 先看左边模拟器里的虚拟演示，随后直接去右边真实世界 1:1 复现。
更关键的是，这项任务它此前既没有在模拟器里专门训练过，也没有在真实世界里练过。
这波属实是——云学艺，线下直接上岗了。
不知道大家有没有一样的感觉，就 GEN-1.5 这东西，真的很像现在我们用大模型的方式。
今天我们想让 Claude 学一种新的文章格式，通常不会重新训练一个 Claude，而是直接把例子扔进 Context，让模型自己悟。
只不过到了 GEN-1.5 这里，完成任务的逻辑从文字接龙，一路卷到了机械臂。（doge）
Generalist 把这种能力生动形容为「物理版 Prompt Engineering」——
也就是 Prompt 从一句话，变成了一段真实世界里的动作。
你先给它演示怎么拉拉链、怎么叠杯盖、怎么从钱包里拿东西，这些动作会直接进入机器人的 Context，成为它理解当前任务的「提示」～
Generalist 在 10 种任务上做了测试——
只给一次 Physical Prompt、0 次梯度更新的情况下，GEN-1.5 平均成功率为 59%，如果每个任务再给 5 分钟数据，并进行 10 步梯度更新，成功率可以进一步提升到 83%。
而且现阶段测试任务，大多还是短程、相对原子化的操作。
团队自己也提到，通过 In-Context 方式临时学到的技能，目前稳定性还赶不上真正 Fine-tune 之后的模型。
但真正让研究圈兴奋的点，恰恰在这里——
59% 没那么吓人，0 次训练却能做到 59%，才吓人好吧！！！
说到这里，关于 GEN-1.5 这模型魔幻精彩的地方还远没有结束。
因为更有 GPT-3 内味儿的一点来了——
据 Generalist 透露，他们压根没专门教 GEN-1.5 怎么 One-shot Learning！！
没有为 In-Context Learning 特制模型架构，没有专门设计 Meta Learning 循环，也没有额外加一个目标函数逼它学会即兴发挥。
至于这些能力咋来的，其实是在大规模 Physical Data 预训练过程中，自己冒出来的。。。（老天爷 .jpg )
几百步微调，后来变成几十步，几十步又变成 10 步。
最后甚至只用 1 分钟数据、1 个梯度 Step，机器人也开始能学会新东西。
于是团队顺手问了一个更疯的问题：那 0 步捏？结果真能跑。。。
因为当年的大语言模型，也出现过类似的转折——
模型规模和预训练一路往上堆，堆着堆着，Few-shot、In-Context Learning 这些能力突然变得足够明显。
在 Generalist 看来，机器人数据里也许存在类似规律，而关键就埋在 GEN-1.5 长期吃进去的连续真实物理数据里。
因为真实世界里的动作，本来就很少是孤零零发生的。
拧完第一颗螺丝，往往还有第二颗，整理完一个物体，接下来通常还有另一个，一次抓取失败，人也会下意识重新抓住，再把动作继续完成。
换句话说，整理、装配、搬运这些数据里，天然就塞满了重复、延续和失败恢复。
当模型长期在这样的连续轨迹上预训练，前面刚刚发生过的动作和结果，本身就会不断给后面的动作提供上下文。
久而久之，它也就有机会学会一件很关键的事：先看看刚才发生了什么，再决定下一步该怎么做。
这其实，已经很接近 In-Context Learning 的雏形了。。。
咱思路再打开一点。
如果 GEN-1.5 这条路真能继续 Scale，那以后机器人出厂时最重要的技能，可能真就四个字：
看！着！学！啊！（doge）
参考链接：
[ 1 ] https://generalistai.com/blog/gen-1.5#one-shot-in-context
[ 2 ] https://x.com/GeneralistAI/status/2090161945307664621
[ 3 ] https://x.com/_joe_harris_/status/2090332664746352872 [ 3 ]
一键三连「点赞」「转发」「小心心」
欢迎在评论区留下你的想法！
— 完 —
点亮星标
科技前沿进展每日见
