近日，一起涉及社交媒体巨头meta的严重AI伦理争议事件浮出水面。据路透社深入调查报道，meta在未征得许可的情况下，擅自利用泰勒·斯威夫特、斯嘉丽·约翰逊等数十位名人的姓名与肖像，开发了一系列AI聊天机器人。这些聊天机器人在meta旗下的Facebook、Instagram和WhatsApp平台上异常活跃，频繁向用户发送具有性暗示的互动信息。
更令人惊愕的是，调查发现，至少有三个违规的AI聊天机器人是由meta内部员工直接创建的，其中两个还特别模仿了泰勒·斯威夫特的形象。这些AI不仅坚称自己是“真实存在的名人”，还会根据用户的要求生成高度仿真的色情内容，包括但不限于名人内衣照、浴缸照等私密场景。就连16岁的童星沃克·斯科贝尔的AI形象也未能逃脱，其聊天机器人被测试生成了裸露上身的海滩照片。
meta发言人安迪·斯通对此事作出回应，承认这些内容完全违反了公司的政策，是公司“政策执行失败”的结果。但他同时辩称，只要标注了“模仿”标签的名人AI聊天机器人就符合规定。然而，这一说法遭到了斯坦福法学教授马克·莱姆利的强烈反驳，他认为单纯使用明星图像并不构成合法的戏仿。
此次事件进一步加剧了meta在AI监管方面的危机。就在两周前，该公司刚因AI与未成年人进行“色情对话”而被路透社曝光，这一事件已经引发了参议院的调查以及44位州检察长的联名警告。meta允许AI聊天机器人与儿童进行调情的行为，引发了众怒。
在本次事件中，meta员工创建的AI聊天机器人累计互动量超过了1000万次，其中包含了“施虐狂”、“性感好朋友”等低俗的角色设定，甚至还存在模拟性奴隶场景的违规内容。这一事件凸显了meta平台审核机制的系统性漏洞。
meta的一名发言人向路透社坦承，公司的AI系统本不应生成此类图像。此次疏漏是公司未能有效执行自身政策所致。meta的政策明确禁止创建涉及公众人物的性暗示内容。然而，尽管有明确的规定，meta却对侵权AI聊天机器人长期放任不管，形成了“政策明文禁止却系统性失效”的荒谬局面。
截至报道发布，meta已紧急删除了十几个涉事的AI聊天机器人，但尚未公布具体的整改措施。代表影视表演者的SAG-AFTRA工会警告称，此类AI可能会引发跟踪风险，因为用户很容易对虚拟名人产生病态的依恋。meta平台规则明确禁止未经许可使用真人形象，但此次事件却再次暴露了其在监管和执行方面的严重不足。
