发生了什么
Jim Fan 发布 RoboTTT(8000步上下文)
为什么值得关注
该工作展示了机器人模型上下文缩放的新曲线,值得关注TTT技术如何突破机器人序列建模瓶颈。
信息来源
以下内容来自公开来源,可打开原文继续核验。
01
RoboTTT:机器人模型扩展到8000步上下文
Jim Fan团队发布RoboTTT,将机器人模型上下文原生扩展到8000时间步(5分钟),推断成本恒定,性能较前沿提升三个数量级。采用测试时训练(TTT)技术,内部小模型持续压缩历史,实现无限学习。在电路板组装任务中,机器人能从人类视频一次性模仿学习,并在线自我纠错。上下文缩放实验表明,8K步预训练性能优于1K步62%,且未饱和。
打开原始来源 ↗