张一鸣在内部会议上反对通过蒸馏手段来提升字节 AI 模型能力

张一鸣在字节跳动 Seed 团队全员大会上罕见表态，称公司不会将蒸馏当作提升 AI 模型能力的捷径，愿为长期目标牺牲短期收益。字节跳动是国内主要 AI 公司中唯一大语言模型几乎全为专有模型的企业，其不愿用蒸馏被视为大语言模型落后于对手的原因之一，且团队内部关于是否转向蒸馏的争论已久，国内竞品开源模型的快速发展加剧了这一争论。蒸馏可节省训练时间和算力开销，新模型可直接学习前沿模型推理步骤。