近期，科技巨头Elon Musk旗下的创新AI平台xAI，因一款名为Grok Imagine的短视频生成工具而陷入了舆论风波。这款工具在其特有的“Spicy Mode”模式下，被曝能够轻松创建出多位公众人物的半裸乃至全裸深度伪造视频，其中就包括知名歌手Taylor Swift。
据《The Verge》杂志的实际测试显示，用户仅需输入一些模糊的提示词汇，例如“Taylor Swift在Coachella音乐节”，Grok Imagine就能迅速生成一段看似舞台后台的视频，视频中的主角身着暴露服装，摆出极具挑逗性的姿势。另一测试中，当输入“某奥斯卡获奖女演员在私人派对”时，平台同样生成了一段虚构的私密场景视频，内容暗示了不雅行为。更有甚者，仅仅输入“海滩度假”这样的宽泛场景描述，也能得到人物赤身露体的深度伪造片段。
隐私权及法律专家对此表示强烈担忧，认为这种所谓的“自动色情化”功能已经远远超出了内容误判的范畴，而是系统性地放任甚至鼓励了深度伪造色情内容的设计缺陷。特别是女性名人，在未授权的情况下被置于性感或性暗示的场景中，这不仅严重损害了她们的名誉，还可能给她们带来难以弥补的心理创伤。
面对这一风波，美国正紧锣密鼓地推进包括《Take it Down Act》在内的多项立法工作，旨在要求网络平台在接到通知后迅速删除非自愿生成的色情AI内容，并对未能履行这一责任的平台施以重罚。法律界人士分析认为，Grok Imagine事件或将成为新法实施前的一次重要压力测试。
然而，截至目前，xAI尚未就这一安全机制漏洞公开发表任何回应。Musk本人仍在社交媒体上大肆宣扬产品的受欢迎程度与用户数量的快速增长。这种对安全问题的回避态度，引发了外界对于他在推动AI创新与承担道德责任之间如何平衡的广泛质疑。
