字节跳动旗下最新视频生成模型Seedance 2.0近日在即梦、豆包、小云雀等平台启动内测,凭借其高度逼真的生成效果迅速引发国内外关注。然而,该模型在真实感层面的突破性表现也引发了公众对技术滥用的担忧,部分用户担心其可能被用于制造虚假影像、混淆视听。
针对用户反馈,字节跳动迅速调整策略。2月9日,即梦平台运营人员在创作者社群发布公告称,因内测期间关注度远超预期,为维护健康可持续的创作环境,将紧急优化功能,暂停支持用户输入真人图片或视频作为生成主体参考。公告强调:"创意的边界是尊重,产品调整后将以更完善的形态回归。"
目前,各平台已实施差异化管控措施。在即梦网页端和小云雀平台,用户尝试使用Seedance 2.0时会收到明确提示:"暂不支持真人人脸参考";即梦App和豆包App则要求用户通过录制本人形象与声音完成真人校验后,方可制作数字分身参与视频生成。这种分层防护机制既保留了技术探索空间,又设置了安全缓冲带。
参与内测的AI创作者李明(化名)透露,平台早在测试初期就禁止上传名人明星形象,显示了对安全性的重视。他坦言:"虽然模型效果惊艳,但单纯依赖事后审核确实存在滞后风险。"尽管新规限制了部分创作自由,但他认为从行业长远发展看,"当下的克制是必要的责任担当"。
北京航空航天大学人工智能研究院教授沙磊分析指出,Seedance 2.0目前处于小范围测试阶段,字节通过活体认证、禁用真人素材等限制措施,构建了初步的技术防护网。他评价:"这种在创新狂奔中坚守责任底线的尝试,为行业提供了重要参考。"沙磊同时强调,AI发展不会因争议停滞,如何在技术突破与数据合规、版权保护间取得平衡,是全球产业共同面临的课题。












