发生了什么
BigCode 发布 The Stack v3(114 TB, 5T tokens, 770 语言)
为什么值得关注
与 v2 相比,v3 将代码内容内联、重新爬取最新版本,数据量增长约 9 倍,适合训练代码模型,值得点开原文查看具体格式和下载方式。
信息来源
以下内容来自公开来源,可打开原文继续核验。
The Stack v3 发布:最大开放代码数据集
BigCode 社区发布 The Stack v3,这是目前最大的开放代码数据集:114 TB 原始数据、770 种语言、2.24 亿个仓库,约 5T tokens。与 v2(2024年,68 TB 原始数据,约 550B tokens,618 种语言)相比,v3 实现了 10 倍 token 增长,内容直接内联(不再需要从 Software Heritage 获取),并重新爬取 GitHub 至 2025 年 8 月,仅包含星数≥5 的 fork。
打开原始来源 ↗