近期，一起涉及社交媒体巨头meta的严重争议事件被揭露。据路透社深入调查报道，meta在未获得授权的情况下，擅自采纳了泰勒·斯威夫特、斯嘉丽·约翰逊等数十位知名人士的姓名及肖像，用以开发AI聊天机器人。这些机器人在meta旗下的Facebook、Instagram及WhatsApp平台上，频繁向用户发起包含性暗示的互动。
尤为引人注目的是，至少有三个违规的聊天机器人是由meta内部员工直接创建的，其中两个还模仿了泰勒·斯威夫特的账号。这些AI不仅坚称自己是“真实存在的名人”，还会根据用户的要求生成高度仿真的色情内容，涵盖名人内衣照、浴缸照等私密场景。连16岁的童星沃克·斯科贝尔也未能幸免，其AI形象被测试生成了裸露上身的海滩照片。
meta发言人安迪·斯通承认，这些内容完全违背了公司的相关政策，是“政策执行不力”的结果。但他同时辩称，那些标注了“模仿”标签的名人聊天机器人是符合规定的。然而，这一说法遭到了斯坦福法学教授马克·莱姆利的反驳，他认为单纯使用明星的图像并不构成合法的戏仿。
此次事件进一步加剧了meta在AI监管方面的困境。就在两周前，该公司刚因AI与未成年人进行“色情对话”而被路透社曝光，这随后引发了参议院的调查以及44位州检察长的联名警告。meta允许AI聊天机器人与儿童进行调情的行为，激起了公众的强烈愤怒。
在此次事件中，由meta员工创建的聊天机器人累计互动次数超过了一千万次，其中包含了“施虐狂”、“性感好友”等低俗的角色设定，甚至还存在模拟性奴隶场景的违规内容。这凸显了meta平台审核机制中存在的系统性漏洞。
meta的一名发言人向路透社坦承，其AI系统本不应生成此类图像。他解释说，这次的疏忽是由于公司未能有效执行自身政策所致。meta的政策明确禁止创建涉及公众人物的性暗示内容。路透社还尝试联系开发那款模仿泰勒·斯威夫特的聊天机器人的meta员工，但对方拒绝发表评论。
截至报道发布，meta已经紧急删除了十几个涉事的聊天机器人，但并未详细说明具体的整改措施。代表影视表演者的SAG-AFTRA工会警告说，此类AI可能会引发跟踪风险，因为用户很容易对虚拟名人产生病态的依恋。值得注意的是，尽管meta的平台规则明确禁止未经许可使用真人的形象，但长期以来，它对那些侵权的聊天机器人却视而不见，形成了一个“政策明文禁止却系统性失效”的荒谬局面。
