字节跳动讨论训练超 5 万亿参数模型，规模国内最大

据内部消息，字节跳动正讨论训练一个参数规模超过 5 万亿的模型，这将是国内已知参数规模最大的模型，超过阿里的 Qwen 3.8-Max 和月之暗面的 K3。该计划仍处于早期阶段，由 Seed Foundation 负责人项亮主导，并与大语言模型预训练数据负责人沈科合作。

字节跳动内部人士透露，上半年多个 Seed 团队已开始反思，这也是讨论超大规模模型的原因之一。创始人在全员会上安抚团队，表示可接受模型暂时落后，但希望追求智能上限，跻身世界第一梯队。

创始人还强调编程是当前关键方向，并反对蒸馏，认为那只是复制已有能力，难以真正超越。