近期,一项旨在规范人工智能生成内容的新规正式生效,该规定由国家网信办、工信部、公安部及广电总局联手推出,名为《人工智能生成合成内容标识管理办法》。此办法明确界定了两种标识方式:
一种是直观可见的显式标识,如文字标注、水印或角标,用户能够轻松识别;
另一种是隐式标识,它嵌入在文件的元数据中,以肉眼不可见的数字水印形式存在。
依据新规,所有利用AI技术生成的文本、图像、音频、视频乃至虚拟场景,在公开发布前均需附加上述两类标识之一。平台方被赋予了首要责任,它们需在内容上架前验证这些标识。若发现未标记或疑似AI合成却缺少标识的内容,平台需立即添加风险提示,并在必要时将其下架。此举被业内人士视为在信息传播链上设置的一道“安全屏障”,旨在从源头上遏制虚假信息的迅速蔓延。
实际执行中,各大内容平台迅速响应。微信公众号后台在新规生效前夕紧急上线了“合成内容声明”选项,未勾选者将自动附加“内容真实性存疑”标签。抖音平台则对缺乏隐式签名的视频启动人工复审流程,尽管这会导致平均2小时的发布延迟。多家MCN机构透露,其技术团队为避免被限流,连夜进行技术调整。