1月27日，欧盟已对马斯克旗下的X平台展开调查，原因是担忧该平台未能阻止Grok人工智能聊天机器人生成并传播“可能构成儿童性虐待材料”的深度伪造图像。
欧盟委员会表示，调查将核查这家社交媒体平台在将Grok部署至欧盟市场时，是否对相关风险进行了适当评估并采取了有效缓解措施。这项调查可能再次引发白宫方面的批评。
欧盟负责科技事务的专员Henna Virkkunen表示：“未经同意针对女性和儿童进行的深度伪造色情内容，是一种暴力且不可接受的贬损形式。”该案件将受到欧盟的网络内容监管框架《数字服务法》管辖。该法案针对网络上的有害和非法内容设置了严格的防护栏。
近几周来，全球围绕Grok的谴责不断升级。多个国家的用户指出，这款AI聊天机器人生成带有性意味的图像并发布在X平台上，随即引发监管机构和儿童安全倡导人士的强烈批评。英国通信监管机构已正式调查X是否违反该国的《网络安全法》。法国和印度也相继表态，指控Grok在未经当事人同意的情况下非法生成带有性内容的图像。
作为xAI的子公司，X援引其此前的一份声明称，平台会移除包括儿童性虐待材料在内的非法内容，暂停相关账户，并在必要时与执法机构合作。
