在加拿大蒙特利尔举办的国际人工智能联合会议(IJCAI)期间,一场聚焦深度伪造检测技术的研讨会吸引了全球目光。此次活动由蚂蚁数科携手新加坡科技研究局共同举办,聚焦于Deepfake(深度伪造)识别技术的最新进展。
会上,两大深度伪造数据集正式向公众开放。蚂蚁数科贡献了名为DDL-Datasets的数据集,该数据集包含180万张训练图片,专注于人脸伪造、视频篡改及声音克隆等高风险场景,涵盖了超过80种不同的伪造手段。尤为这些数据集中详细标注了AI造假的具体位置和时间节点,为提升算法的可解释性提供了有力支持。研究人员可以通过Modelscope平台轻松获取这一宝贵资源。
与此同时,斯坦福大学、谷歌与加州大学伯克利分校联合发布的DeepAction数据集也为研究者们带来了新的福音。该数据集包含2600段由7款大模型生成的人类动作视频,以及与之对应的真实镜头,内容涵盖行走、奔跑、烹饪等日常活动。研究者可以在Hugging Face平台上获取这些视频资料。研究团队在相关研讨会上发表的论文《AI生成人体动作检测》荣获最佳论文奖,该论文提出了一种基于多模态语义嵌入的鉴别技术,能够精确区分真实人体动作与AI生成的动作,且对视频分辨率调整、压缩等数据篡改手段具有较强的抗干扰能力。
在研讨会上,澳大利亚莫纳什大学的Abhinav Dhall教授也分享了其团队的最新研究成果。他们通过脑电图数据发现,不同文化背景的人群在识别AI造假视频时存在差异。当视频语言为参与者熟悉的英语,且演员来自相似种族背景时,人们更容易区分真实视频与深度伪造视频。这一发现为深度伪造分析领域在全球多元背景下的进一步研究开辟了新路径。
蚂蚁数科在安全领域的长期投入也得到了展现。其旗下的安全科技品牌ZOLOZ自2017年起便致力于服务海外机构的数智化升级,目前已覆盖全球超过25个国家和地区。其“实人认证”产品的准确率高达99.9%,彰显了蚂蚁数科在AI安全及风险防范方面的卓越实力。