近期，互联网上一则消息引起了广泛关注：曾风靡一时的深度伪造色情内容网站Mr. Deepfakes宣布永久关闭。这一消息由404 Media率先报道，迅速在网络上发酵。
Mr. Deepfakes网站曾以其独特的“服务”吸引了大量用户。这些用户不惜花费高达1500美元，雇佣创作者利用先进的AI技术，未经名人或其他个体同意，将其面容用于制作色情视频。据悉，该网站在巅峰时期，拥有超过4.3万条视频，总浏览量突破15亿次。这些视频由近4000名创作者制作，他们通过这一不道德且违法的交易获取了巨额利润。
然而，本周起，这些视频已无法再被访问，用户提出制作新视频要求的论坛也已关闭。Mr. Deepfakes网站发布通知称，由于一家关键服务提供商永久终止服务，导致网站无法继续运营。网站方面证实，数据丢失是平台关闭的主要原因，并警告用户不要相信任何冒牌平台。
关于具体是哪家服务提供商切断了Mr. Deepfakes网站的服务，目前尚不清楚。但研究人员指出，深度伪造创作者持续制作这类内容的关键要素之一，是通过谷歌Colab笔记本提供的免费层级云GPU访问权限。不过，谷歌方面尚未对媒体提出的“是否取消了该访问权限”的问题作出回应。
值得注意的是，Mr. Deepfakes网站的关闭正值美国国会通过《删除法案》之后。该法案规定，创建和传播未经同意的私密影像属于违法行为，包括由AI生成的合成私密影像。任何收到相关通知的平台必须在48小时内删除相关内容，否则将面临美国联邦贸易委员会的执法行动。尽管执法行动要到次年春天才开始实施，但有猜测认为，该服务提供商可能是因这项法律的通过而封禁了Mr. Deepfakes网站。
尽管如此，Mr. Deepfakes网站的关闭并不意味着深度伪造问题的终结。随着AI技术的发展，合成的私密影像愈发逼真，深度伪造内容的数量急剧增加。美国联邦调查局已发出警告，提醒公众这类虚假内容正被频繁用于性敲诈行为，但社会对此的即时解决方案却收效甚微。
据研究人员称，Mr. Deepfakes（一个真实存在但身份匿名的人，据报道是多伦多一名36岁的医院工作人员）开发的程序推动了深度伪造内容的激增。他开发的DeepFaceLab软件迅速成为领先的深度伪造软件，据估计，95%的深度伪造视频都是由该软件制作的。该软件在GitHub上已被复制了数千次，成为普通用户和更积极用户制作或提升深度伪造技术的首选工具。
更令人担忧的是，DeepFaceLab在GitHub上的存储库虽然已存档无法再编辑，但仍然可供任何人复制和使用。这意味着，即使Mr. Deepfakes网站关闭，深度伪造技术仍可能继续传播和滥用。据报道，许多Mr. Deepfakes网站的成员已经在Telegram上取得联系，该平台上也经常有合成私密影像的交易。
加州大学伯克利分校的教授、数字伪造图像领域的顶尖专家汉尼·法里德表示：“虽然Mr. Deepfakes的关停是一个好的开始，但类似这样的平台还有很多，所以我们不能就此止步。”这一观点提醒我们，打击深度伪造色情内容仍需社会各界共同努力。
