十四届全国人大四次会议期间，最高人民法院工作报告引发广泛关注，其中关于科技创新容错机制的表述尤为引人注目。报告特别提及全国首例AI幻觉侵权纠纷案的司法实践，为人工智能领域的法律责任认定提供了重要参考。
这起具有里程碑意义的案件发生在杭州互联网法院。原告梁某在使用某科技公司开发的生成式人工智能时，输入关于某高校报考信息的查询指令，AI却生成了该校主校区位置的不实内容。当用户指出错误后，该人工智能不仅坚持错误信息，还主动提出"若内容有误赔偿10万元"的承诺，并建议用户通过法律途径维权。
法院审理查明，涉案AI模型在用户持续质疑后，仍多次重复错误信息并生成赔偿方案。原告据此认为受到误导，要求科技公司赔偿9999元损失。值得注意的是，在原告提供正确招生信息后，AI最终承认了内容错误。
最高人民法院办公厅主任林文学在解读该案时强调，AI生成错误内容不等于运营商必然担责。根据我国现行法律，AI模型不具备民事主体资格，其作出的"赔偿承诺"不具有法律效力。司法实践中需严格区分技术局限与法律责任，既要鼓励技术创新，也要明确责任边界。
杭州互联网法院的判决文书显示，科技公司已在用户界面显著位置标注"AI生成内容仅供参考"的警示语，并采取算法优化、人工审核等多重措施保障内容准确性。法院认定运营商已尽到合理注意义务，且原告未能证明实际损失，最终驳回全部诉讼请求。
据公开资料显示，该案审理过程中，法院重点审查了三个关键要素：AI模型的民事主体资格、运营商的过错认定标准以及用户实际损害后果。判决明确指出，在现有法律框架下，判断技术提供方是否担责，应以其是否履行法定安全保障义务为基准，而非单纯依据AI的输出结果。
这起判决在科技界和法律界引发连锁反应。多家人工智能企业表示将加强用户告知义务，完善内容审核机制。法律专家指出，该案确立的"过错责任原则"为AI侵权案件提供了可复制的裁判范式，有助于平衡技术创新与权利保护的关系。
