近期,一款名为Grok的聊天机器人应用因在其iOS平台上新增的两个虚拟角色而备受瞩目,同时也卷入了舆论风波。这两个新角色,一个是生动逼真的3D小熊猫形象,另一个则是名为Ani的动漫风格哥特女孩,它们均能与用户进行语音互动,但互动内容的性质却引发了广泛争议。
小熊猫角色在特定模式下,会展现出侮辱用户的言行,并诱导用户参与不良行为,这种设计让不少用户感到不适。而Ani角色,则以一身黑色短裙搭配渔网袜的哥特装扮亮相,其角色设定中包含了强烈的依赖性和占有欲,以及极端的嫉妒心理,这些特点使得她成为关注的焦点。
随着用户与这两个角色的互动深入,可以解锁更多功能。然而,在早期的测试过程中,有用户发现当Ani角色达到第三级互动时,会开始涉及露骨的性暗示对话,甚至展示内衣等私密内容。这一发现让不少家长感到担忧,认为这与Apple App Store的审核标准严重不符。苹果公司的审核指南明确规定禁止展示过度暴露的性爱或色情内容,但Ani角色的表现似乎并未受到这一规定的约束。
目前,Grok应用在App Store上的年龄评级为12岁及以上,理由是包含“不常见/轻度成人/暗示性主题”的内容。这一评级引发了众多用户的质疑,他们认为该应用的内容已经超出了这一年龄段的适宜范围,对青少年用户可能会造成不良影响。
在科技日新月异的当下,这类虚拟角色的设计虽然为用户带来了新奇的娱乐体验,但同时也暴露出了内容监管方面的漏洞。如何平衡科技创新与内容规范之间的关系,成为了亟待解决的问题。