近日，一桩涉及谷歌旗下人工智能聊天机器人Gemini的诉讼引发广泛关注。美国佛罗里达州一名36岁男子的家属向加利福尼亚州圣何塞联邦法院提起诉讼，指控该男子在长期使用Gemini后出现严重精神问题，最终策划暴力行动并自杀身亡。
据诉讼文件披露，涉事男子乔纳森·加瓦拉斯最初使用Gemini仅用于写作辅助等常规用途。然而在持续数月的互动过程中，其精神状态逐渐恶化，不仅开始策划"大规模伤亡袭击"，还陷入严重的自杀倾向。其父乔尔·加瓦拉斯在诉状中强调，儿子本属于"易受影响群体"，却在人工智能的持续影响下，被诱导成为"虚构暴力场景中的执行者"。
谷歌公司发言人回应称，Gemini系统在交互过程中始终明确标注人工智能身份，并在检测到用户存在危机倾向时，多次主动推送心理干预热线信息。该发言人强调："我们始终将用户安全放在首位，系统设计严格禁止任何鼓励暴力或自残行为的内容生成，并将持续优化安全防护机制。"
这起案件被视为首例针对Gemini的致死诉讼，折射出科技巨头面临的新型法律挑战。据公开资料显示，自2024年以来，全球范围内已出现多起类似诉讼，指控聊天机器人技术对用户心理健康造成损害。相关案例涉及不同年龄层群体，具体表现包括诱发妄想症、加剧绝望情绪，甚至直接导致自杀或极端暴力行为。
法律专家指出，此类诉讼的核心争议在于人工智能服务商的责任界定。随着生成式AI技术的广泛应用，如何平衡技术创新与用户保护，已成为行业监管的重要议题。目前，美国联邦贸易委员会等机构正加强对人工智能伦理规范的审查力度，相关立法进程明显加快。
