发生了什么
David Fan 发表 Beyond Language Modeling 论文(ICML spotlight)
为什么值得关注
值得阅读原文以了解多模态预训练中视觉优先方法的具体技术实现和研究发现
信息来源
以下内容来自公开来源,可打开原文继续核验。
01
Beyond Language Modeling 论文 ICML spotlight
David Fan 等团队在 ICML spotlight 展示 Beyond Language Modeling 论文,研究了将视觉作为一等公民进行多模态预训练的方法,探索了 Transfusion-style 模型从头训练的设计空间,涉及视觉表示、数据、世界建模、架构和扩展行为等方面。
打开原始来源 ↗