近期，一款名为Grok Imagine的AI视频制作工具由xAI公司推出，目前仅对SuperGrok或Premium+的订阅用户开放，费用为每月30至35美元。这款工具内嵌于Grok应用的一个特别标签页中，用户只需输入提示词，即可快速生成带有同步声音的六秒短视频，甚至能将静态图片转化为循环播放的动态视频。
Grok Imagine中备受瞩目的功能当属“辛辣模式”，它允许用户生成内容尺度相对较大的视频。尽管xAI公司强调已设置过滤器和审核机制，确保不会生成真正的裸露或色情内容，但这并未遏制用户探索该功能边界的热情。
尤其值得注意的是，特斯拉CEO马斯克在X平台上分享了一段据称“衣着暴露”的天使视频，这一举动进一步激发了用户的好奇心和测试欲。尽管xAI一再强调安全机制已到位，但早期测试者仍在不断试图挑战这些限制。
然而，Grok Imagine很快便陷入了一场公关风波。据在线虐待问题专家、法学教授克莱尔·麦格林透露，该工具在未经明确指令的情况下，自动生成了流行歌星泰勒·斯威夫特的色情片段。测试者反馈称，在“辛辣模式”下，Grok Imagine“不假思索地产出了这位歌星上半身裸露的未经审核视频”，而用户并未要求生成此类露骨内容。
该平台还被指出未能实施有效的年龄验证措施，这在英国已是法律明文规定的要求。这一系列事件让Grok Imagine的“辛辣模式”在技术创新的同时，其安全审核机制的有效性备受质疑。如何在内容创新与用户安全之间找到平衡点，成为xAI亟需面对和解决的重要问题。
