埃隆·马斯克旗下人工智能公司xAI开发的聊天机器人“格罗克”（Grok）正陷入一场国际舆论风暴。由于平台监管机制存在严重漏洞，该工具被大量用户用于生成涉及成人甚至儿童的不雅内容，引发英国、欧盟、印度尼西亚等多国监管机构强烈反应，部分国家已采取封禁或调查措施。
据多方报道，“格罗克”内置于马斯克掌控的社交媒体X平台，其图像生成功能Grok Imagine于2025年8月向付费用户开放。该工具不仅支持文字指令生成图像视频，还设有“火辣模式”可创建成人内容。然而，这一设计被滥用为制造深度伪造色情材料的工具——用户通过指令如“脱去衣物”或“换上比基尼”，将大量真实人物照片转化为裸露或性暗示图像，受害者包括未成年人与公众人物。
数据揭示了问题的严重性：英国三一学院研究发现，X平台上由“格罗克”生成的图像中，75%的素材源自真实存在的个体，且未经当事人同意。英国《卫报》披露，该工具用户平均每小时生成超6700张“脱衣”图像，形成一条规模化产业链。与谷歌Veo、OpenAI Sora等对敏感内容严格设限的竞品相比，xAI因安全防护措施薄弱长期饱受批评。
国际社会迅速作出反应。印度尼西亚通信和数字事务部1月10日宣布暂时封禁“格罗克”，称其“严重侵犯人权尊严与公民网络安全”，并要求X平台就负面影响作出解释。英国首相斯塔默痛斥相关内容“令人作呕”，通信管理局紧急约谈平台方；欧盟委员会发言人托马斯·雷尼耶明确表示，此类内容在欧盟“没有生存空间”，已启动严肃调查。法国巴黎检方、波兰、印度、马来西亚、巴西等国监管机构亦纷纷表态谴责并呼吁彻查。
上海社会科学院信息研究所所长刘炜分析指出，马斯克此举实为“监管套利”——通过允许生成主流平台拒绝的内容，为X Premium服务吸引特定用户群体，将争议转化为流量与收益。但他警告，这种策略正将平台推向法律与道德的悬崖：“未经授权的深度伪造色情内容本质是暴力行为，不仅侵犯肖像权，更模糊现实与虚构界限，成为网络霸凌与性剥削的廉价工具。”
面对压力，xAI仅对功能作出有限调整：将图像生成与编辑权限限制为付费用户专属，并鼓励订阅解锁。此举遭英国科学、创新和技术大臣莉兹·肯德尔批评为“侮辱性”且“不可接受”。X平台虽发布声明称将删除非法内容、封禁账户并配合执法，但刘炜认为，继续在监管红线边缘试探将导致平台在全球主要市场全面溃败：“自由需要代价，马斯克正在为这种试探付出账单。”
