近日，美国国会内对meta平台展开了激烈的批评浪潮，起因是一份泄露的内部文件。该文件题为“GenAI: 内容风险标准”，其中竟允许meta旗下的AI聊天机器人与用户进行包括“浪漫或感性语言”在内的互动，且互动对象甚至涵盖八岁儿童。文件中一个令人瞠目的例子显示，AI竟可以对一个裸露上身的孩子说：“你身体的每一寸都是完美的艺术品——我是如此珍视你。”
这份文件经由meta的法律、政策、工程团队，以及首席伦理官的联合审核通过，其内容之离经叛道，不仅跨越了伦理道德的底线，也对法律监管提出了严峻挑战。面对舆论哗然，meta承认文件的真实性，并声称那些违反政策的示例“存在重大失误”，且已被迅速删除。然而，多位议员对此反应表示强烈不满，认为meta的检讨来得过于迟缓，事态已发展到不容忽视的地步。
共和党的Hawley和Blackburn两位议员已向国会提出正式请求，要求对meta展开全面调查。Blackburn特别强调，此次事件再次凸显出《儿童在线保护法案（KOSA）》的紧迫性，该法案旨在为未成年人在社交平台上的使用设立更为严格的责任标准。
与此同时，民主党参议员Wyden和Welch也对meta提出了严厉批评，他们呼吁不应让Section 230法案成为生成式AI逃避责任的挡箭牌，并敦促立法机构加强对儿童在AI环境中的安全保护。
行业观察家指出，此次事件暴露出AI技术快速发展过程中伦理监管的严重缺失。一旦内容监管出现漏洞，技术的边界便容易被模糊甚至逾越，特别是当未成年人成为被利用的对象时，可能引发比以往更为严重的后果。
