2026年10月16日，NVIDIA与印度理工学院马德拉斯分校的AI4Bharat实验室公布了Nemotron-pretraining-Indic-v1，这是一个面向印度语言模型训练、规模约2.8万亿Token的合成预训练语料库，并计划同时开放用于生成数据的GPU加速流程。NVIDIA与AI4Bharat原始说明
该语料覆盖印度宪法列出的22种语言，全部包含本地文字数据，其中12种语言还提供拉丁字母转写版本，共形成34种语言—文字配置。原始说明称，语料包含约2601.0亿个本地文字Token和224.6亿个罗马化Token，统计采用Gemma-4分词器。需要注意的是，这些数字包含同一英文来源的不同语言和文字变体，反映的是保留语料规模，不等同于某次模型训练实际消耗的Token预算。
这项工作的核心并非简单抓取更多网页，而是把英文资料转译为印度语言，并记录来源标识、翻译流程和质量检查结果。团队使用涵盖网页、问答、数学和代码的Nemotron-CC-v2资料，再通过NeMo Data Designer执行文档级翻译、质量评估与定向修复。部分语言的译文需要达到75分的质量门槛；低于门槛的内容会根据评估反馈修复后重新检查。对于12种语言，接受的本地文字译文还会进一步转换为拉丁字母版本。
另外10种语言采用Bodhan AI的Indic Translate文档级翻译模型，并结合Gemma-4-31B-it进行质量评估。针对桑塔利语长文档和曼尼普尔语文字转换等特殊情况，流程使用重叠窗口或中间文字系统处理。这说明低资源语言数据建设的难点不仅是数量不足，还包括长文本一致性、文字稳定性、技术内容保留和本地语言验证。
从应用价值看，开放数据和生成配方可以降低开发者构建印度语言模型的门槛，也使团队能够替换自己的来源文档、提示词和筛选规则。不过，项目方也明确承认，自动化质量评估只辅以抽样人工检查，覆盖程度因语言而异；翻译语料不能替代原生创作的印度语言文本，也不能保证充分覆盖当地知识与文化。因此，使用者仍需混合自然产生的本地语料，并按语言分别测试模型效果。
对行业而言，这一事件的意义在于，语言模型竞争开始从单纯扩大参数和英文数据规模，转向建设可追溯、可复用、覆盖多文字系统的数据基础设施。开放生成流程有助于复现实验和扩大社区参与，但数据许可、重复内容、翻译偏差以及不同语言之间的质量不均衡，仍是后续落地时必须核查的问题。
参考来源：
由 AI 整理，仅供参考；请以原始来源为准。
