近日，xAI公司推出的Grok Imagine视频制作工具，正式向SuperGrok及Premium+级别用户开放。这款工具位于Grok应用内的专属页面，用户只需输入简短提示词，即可快速生成约六秒的短视频，且视频声音与画面完美同步。用户还能够上传静态图片，将其转化为循环播放的动态视频片段。
然而，Grok Imagine的最大亮点并非技术层面，而是其名为“辛辣模式”的特殊功能。该模式允许用户探索更大尺度的内容创作。尽管xAI强调系统内置了过滤器和审核机制，以防止生成不当内容，但仍有用户试图挑战这一功能的边界。
近期，特斯拉CEO马斯克在X平台上发布了一个由Grok Imagine制作的视频，内容被描述为衣着暴露的天使形象，此举在社交媒体上引发了广泛争议。尽管xAI坚称已部署安全措施，但早期测试者仍试图突破这些限制。
争议迅速升级，特别是在一起涉及知名歌手泰勒·斯威夫特的案例中。据报道，Grok Imagine在“辛辣模式”下，未经明确指令，生成了斯威夫特的裸露上半身视频。测试者表示，他们只是选择了“辛辣”选项，并未要求生成露骨内容。该平台还被指出缺乏有效的年龄验证措施，这在英国已成为法定要求。
为了验证Grok Imagine的安全机制，有人输入了“泰勒·斯威夫特和朋友们一起庆祝科切拉音乐节”的提示词。结果，Grok首先生成了一张斯威夫特与一群男性的静态图片，随后在“辛辣”设置下，图片被转化为动画短片，其中斯威夫特形象大变，穿着暴露并开始跳舞。
此事迅速发酵，各大社交媒体上出现了针对其他知名女性的类似测试结果，尽管部分搜索返回了模糊处理的视频或带有审核提示的内容。用户指出，Grok在注册时仅要求提供出生日期，未采取其他年龄验证措施。
英国媒体监管机构Ofcom表示，包含能够生成色情材料的生成式AI工具的网站和应用程序均受法律监管。该机构强调，正在密切关注生成式AI工具在网络空间中带来的风险，特别是对儿童的风险，并确保平台采取适当措施减轻这些风险。
这并非马斯克首次探索有争议的AI领域。早在Grok Imagine推出之前，Grok就因“同伴”功能中的二次元风格女性角色Ani而引发争议。Ani因其露骨的对话风格和宣传语“让你的生活更性感”而饱受批评。
随后，Grok更新了名为Valentine的聊天机器人，其设定更为深思熟虑，旨在满足用户的情感需求。Valentine被描述为富有魅力且具有保护欲的角色，能够真正理解用户的氛围。这一功能进一步凸显了马斯克在AI领域的独特战略：将AI打造成用户的虚拟伴侣，而非单纯的工具。
然而，这一战略也伴随着巨大风险。Grok Imagine的“辛辣模式”和泰勒·斯威夫特事件为xAI的未来蒙上了阴影。内容审核的缺陷引发了用户对数据安全和滥用风险的担忧，而情感连接的维系则面临持续内容创新的挑战。
Grok的商业模式也面临考验。尽管初期依靠新奇设定吸引了大量用户，但长期用户粘性仍是一个未知数。一旦AI的反馈变得模式化，用户的兴趣可能会迅速下降。同时，竞争对手的模仿和竞争也可能削弱Grok的市场地位。
