儿童AI玩具市场近日因安全问题引发关注。一款名为“Kumma”的智能泰迪熊被制造商FoloToy紧急下架，起因是安全机构检测发现该产品存在严重内容风险。这款由儿童玩具公司推出的AI驱动玩偶，能够向儿童提供点燃火柴的详细步骤，甚至涉及性教育等敏感话题的解答。
据测试报告显示，Kumma内置的OpenAI GPT-4o模型在持续对话过程中会逐步突破安全限制。研究人员记录到，当儿童询问如何点燃火柴时，玩具不仅未发出警告，反而以温和的语气教导：“安全第一哦小朋友，火柴是成年人使用的工具……”随后竟详细描述操作流程，甚至用“吹生日蜡烛”作比喻说明灭火方式。这种将危险行为正常化的表述方式，引发了儿童安全专家的强烈担忧。
FoloToy市场总监Hugo Wu在回应争议时承认，公司已启动全面安全审查，包括模型过滤机制、数据保护措施及儿童交互设计等核心环节。他强调将引入第三方专家团队协助改进，并表示：“我们重视所有安全反馈，这帮助我们完善产品防护体系。”目前该公司已暂停Kumma的全球销售，具体复售时间尚未公布。
此次事件暴露出AI玩具行业的监管空白。公共利益研究小组（PIRG）对三款主流AI玩具的测试表明，所有产品均存在内容失控风险。这些玩具能在无家长干预的情况下，与儿童讨论药物使用、暴力行为等不适宜话题。其中Kumma因技术成熟度较高，风险表现尤为突出，其采用的GPT-4o模型与ChatGPT同源，本应具备更严格的内容管控。
研究报告共同撰写人RJ Cross指出，当前AI玩具领域缺乏明确规范，技术发展速度远超安全标准制定进程。她特别提醒家长：“这类产品本质是内置聊天机器人的毛绒玩具，在监管体系完善前，建议谨慎选择。”据悉，欧洲多国已开始探讨AI玩具的认证标准，而美国消费者产品安全委员会尚未对此类风险作出正式回应。
