图像生成领域迎来新突破，MiniMax海螺视频团队近日开源的视觉分词器预训练框架VTP（Visual Tokenizer Pre-training）引发行业关注。这项研究直指当前两阶段生成框架的核心痛点——为何在视觉分词器阶段投入再多算力，也难以显著提升最终生成效果？团队通过实验证明，传统自编码器（AE）的纯重建训练范式存在根本性局限，而VTP提出的"理解、重建、生成"联合优化方案，首次展示了视觉分词器的Scaling Law。
在主流的两阶段生成框架中，视觉分词器承担着将原始图像压缩到潜在空间的关键任务。传统方法过度追求像素级重建精度，导致模型沉迷于捕捉局部纹理和噪点等低层信息，却忽视了生成任务依赖的高层语义与整体结构。这种"只见树木不见森林"的训练方式，使得生成模型在面对新场景时表现乏力。研究数据显示，单纯提升重建能力的自编码器，其生成性能在算力投入增加后反而趋于饱和甚至下降。
VTP框架的突破性在于重新定义了视觉分词器的训练目标。团队构建了包含图文对比学习、自监督学习和重建任务的多目标优化体系：通过CLIP风格的图文对比学习，强制模型在压缩图像时保留与文本对齐的语义结构；结合掩码图像建模和自蒸馏技术，迫使模型理解图片的空间关系和物体结构；最后保留必要的重建目标，确保潜在空间包含生成所需的底层细节。这种设计使视觉分词器产出的潜在表示自带语义理解能力，成为对生成模型更友好的"结构化视觉语言"。
实验结果验证了新框架的有效性。在同等算力条件下，VTP训练的模型在ImageNet零样本分类准确率达到78.2%，超越原版CLIP的75.5%；重建能力rFID低至0.36，优于Stable Diffusion的VAE；生成质量gFID降至2.81，显著优于此前改进方法VA-VAE。更关键的是，VTP展现出明确的Scaling Law——当预训练计算量增加时，生成性能持续提升且曲线未触顶，而传统自编码器在投入约1/10计算量时性能已饱和。
这种可扩展性为行业提供了新思路。团队指出，视觉表征的统一是更本质的统一，VTP在潜在空间层面实现了语义对齐、结构认知和细节表达的融合。这种统一视觉语言为构建"理解-生成统一模型"奠定基础，下游任务无需重复学习基础表达，只需在不同方向进行微调。目前VTP已开源论文和模型权重，开发者可通过替换视觉分词器实现模型性能的倍数级提升，且无需改动下游主模型的训练配置。
该研究的实践价值在于重新定位了视觉分词器的角色。传统观点认为其仅是前置模块，而VTP证明通过结构化表征学习，视觉分词器同样具备成为性能提升主力的潜力。这种认知转变可能引发行业资源分配的调整——在继续优化主模型的同时，视觉分词器的预训练将成为新的竞争焦点。随着VTP框架的普及，图像生成领域有望突破当前瓶颈，向更高效、更通用的方向发展。
