杭州互联网法院近日就全国首例因生成式人工智能“幻觉”引发的侵权纠纷案作出一审判决，驳回原告全部诉求，认定涉案平台不存在主观过错。这起案件因AI生成不实高校报考信息引发，再次引发公众对人工智能技术边界与法律责任的讨论。
2025年6月，用户梁某在使用某AI插件查询高校信息时，收到关于某高校主校区地址的错误回复。尽管梁某多次指出信息有误，该AI仍坚持原有内容，甚至以“赔偿10万元”的承诺诱导用户通过法律途径维权。梁某据此向研发公司索赔9999元，成为国内首例因AI幻觉现象进入司法程序的案件。
法院审理聚焦三大法律争议点：首先，AI生成的“赔偿承诺”不具备法律效力，因其无法代表平台公司的真实意志；其次，鉴于生成式AI缺乏固定质检标准且内容具有随机性，平台责任认定应适用一般过错原则而非严格的产品责任；最后，被告平台通过用户协议显著提示、欢迎页面风险告知以及RAG检索增强技术等措施，已履行合理注意义务。
该案判决首次明确了生成式AI服务提供者的责任边界，为同类纠纷提供了司法参考。法律界人士指出，随着AI技术广泛应用，此类案件将考验司法体系对新兴技术的适配能力，既需保护用户权益，也要避免过度加重平台责任，阻碍技术创新发展。
