杭州互联网法院近日审结全国首例因生成式人工智能“幻觉”引发的侵权纠纷案，为人工智能服务责任认定提供了重要司法参考。该案聚焦AI生成不准确信息导致用户权益受损时的责任划分问题，法院通过深入分析AI技术特性、服务提供者义务及侵权构成要件，明确了生成式人工智能服务的法律边界。
案件起因于某科技公司运营的生成式AI应用在回答用户关于高校报考信息时，持续输出错误内容并承诺赔偿。2025年6月，用户梁某在使用该应用查询某高校校区信息时，AI多次提供不实信息，甚至在用户纠正后仍坚持错误答复，并声称若内容有误将赔偿10万元。当梁某提供官网信息证明AI错误后，该应用竟建议其通过法律途径索赔。梁某遂以受到误导为由，起诉要求科技公司赔偿9999元。
法院审理重点围绕三个核心问题展开：AI生成的承诺是否具有法律效力、侵权责任应适用何种归责原则、服务提供者是否构成侵权。针对AI意思表示问题，法院明确指出，人工智能不具备民事主体资格，其生成的承诺不能视为服务提供者的真实意思表示。判决强调，AI缺乏法律人格，无法独立承担权利义务，且被告公司未通过任何形式授权AI代表其作出承诺，用户对随机生成的赔偿内容不应产生合理信赖。
在归责原则认定上，法院突破传统产品责任框架，确立生成式AI服务适用过错责任原则。判决认为，AI服务属于信息处理范畴，与具有物理形态的产品存在本质区别。其生成内容不具有高度危险性，且服务提供者难以完全预见和控制所有输出结果。若采用无过错责任原则，将过度加重企业负担，阻碍技术创新。法院特别指出，现行法律未将AI服务纳入产品范畴，相关管理暂行办法也明确其服务属性，为过错责任原则的适用提供了法律依据。
关于服务提供者是否侵权，法院构建了动态注意义务审查体系。首先，服务提供者对违法信息负有严格审查义务，必须确保不生成“有毒”有害内容；其次，需以显著方式提示AI生成内容的局限性，包括功能局限告知、警示提醒等；最后，应采取行业通行技术措施提高内容准确性，如检索增强生成技术。经审查，被告公司已在应用界面显著位置提示AI功能局限，并采用多项技术提升输出可靠性，已尽到合理注意义务。同时，原告未能证明实际损害发生，且AI错误信息未实质影响其报考决策，法院最终驳回诉讼请求。
该案主审法官肖芄表示，判决体现了发展与安全并重的司法理念。在人工智能技术快速发展阶段，既需要严格禁止违法信息生成，设立行为红线，也要避免过度苛责企业，为技术创新保留空间。通过过错责任原则的适用，可以动态调整服务提供者的注意义务标准，形成适应技术发展的规则体系。法官特别提醒公众，当前AI技术仍存在“幻觉”问题，其生成内容仅可作为参考，重要决策需多方验证。
清华大学法学院教授程啸评价称，该判决具有重要理论和实践价值。其明确了AI不具备民事主体资格的基本立场，厘清了服务与产品的法律界限，为同类案件审理提供了规范指引。判决提出的动态注意义务标准，既考虑了技术发展现实，也平衡了权益保护需求，展现了司法对新兴技术的审慎包容态度。专家指出，随着AI技术广泛应用，此类纠纷将不断增多，该案确立的裁判规则将为行业健康发展提供有力法治保障。
