发生了什么
Meta AI 开源 VideoChat3
为什么值得关注
显存占用率优化数据值得研究验证,显存优化技术存在性需确认,混合精度训练方法价值待内部验证
信息来源
以下内容来自公开来源,可打开原文继续核验。
01
端到端开源的VideoChat3视频多态大模型(Zeros-R RTX 3090/L
Meta AI团队发布VideoChat3,采用Zeros-R架构在RTX 3090/L40 NVIDIA显卡上实现82FPS实时处理的视频多态大模型,技术突破显存瓶颈(支持10M/T框架框架和3小时视频输入)。模型包含20亿参数的基本配置和更大版本,首次在与Meta AudioGen、Microsoft VALL-E的基准测试中展示出在GPU显存使用率方面的优化,显存占用率降低35%。
打开原始来源 ↗