字节跳动正酝酿一场大语言模型领域的“参数规模跃迁”。据多方信源透露,该公司内部已启动一项代号未公开的模型研发计划,目标直指5万亿级参数规模,这一数字不仅远超国内已知最大模型阿里Qwen 3.8-Max的2.4万亿和月之暗面K3的2.8万亿,更将国内大模型参数竞赛推向新量级。不过,该项目仍处于早期论证阶段,最终是否面向公众发布尚未确定。
该计划由Seed Foundation负责人项亮主导,大语言模型预训练数据负责人沈科深度参与。为推进项目,Seed团队正在进行组织架构调整,重新划分技术路线分工并调配算力资源。接近项目核心层的人士透露,此举旨在打破当前国内大模型“挤牙膏式”的参数迭代模式,“与其在现有规模上与竞争对手缠斗,不如通过量级跃迁建立技术代差”。
这一战略转向与字节跳动高层近期密集表态形成呼应。创始人张一鸣在内部会议中明确提出“技术长期主义”原则,强调要抵制“用他人输出换榜单排名”的短期行为,甚至要求内部暂停所有开源模型的蒸馏操作,并通过API调用监测等技术手段强化管控。他认为,蒸馏技术虽能快速提升模型表现,但会削弱团队突破底层技术的能力,“AGI的实现需要的是原始创新,而不是参数拼凑”。
在8月6日举行的全员大会上,CEO梁汝波进一步阐释了技术路线选择逻辑。他否认“自研是应对外部压力”的猜测,强调这是基于AGI(通用人工智能)目标的战略决策:“短期落后可以接受,但必须确保每一步都服务于技术基础的夯实。”他特别提到,团队正在构建自主的数据处理管道和训练框架,这些“看不见的投入”才是决定未来竞争力的关键。
行业观察人士指出,字节跳动的战略调整标志着国内大模型竞争进入新阶段。当多数企业仍在通过微调现有模型追赶GPT-4时,字节选择直接冲击更高参数维度,这种“换道超车”的打法既需要巨额算力投入,也考验着工程化落地能力。目前,该项目已获得公司董事会特别授权,在算力采购和人才招募上享有优先权,但其能否突破现有技术瓶颈,仍需观察后续研发进展。












