AI 出错为何不用承担责任？最高法厘清法律责任边界

3 月 9 日消息，据央视新闻报道，十四届全国人大四次会议今天上午在北京人民大会堂举行第二次全体会议。会议听取了最高人民法院工作报告。报告里提到要给科技创新容错空间，一起关注全国首例 AI 幻觉侵权纠纷案。

在该案例中，AI 一本正经地提供了错误信息，在用户指出错误时，不仅坚称信息正确，并主动生成“内容有误赔偿 10 万元”的承诺，用户起诉至法院。杭州互联网法院驳回用户索赔诉求，明确 AI 承诺无效，平台尽到合理义务，不担责。

对此，最高人民法院办公厅主任林文学表示，本案中，AI 出现幻觉，也就是生成错误的内容，法院判决运营商不担责，不是纵容出错，而是厘清法律责任边界。AI 模型不是我国法律规定的民事主体，不具有民事行为能力，不能独立作出具有法律意义的承诺，也就不能承担民事责任。

作为 AI 模型的运营商是否有责任，关键看有无“过错”。本案中，平台已在界面提醒“AI 生成内容仅供参考”，采取了必要措施提高生成内容的准确性，已经尽到了合理的注意义务，没有过错。且本案没有给原告造成损失，所以法院判决运营商不担责。

据此前报道，2025 年底，杭州互联网法院审结了梁某与某科技公司网络侵权责任纠纷一案。2025 年 6 月 29 日，原告在生成式人工智能应用中输入提示词询问某高校报考的相关信息时，生成式人工智能生成了该高校主校区的不准确信息。

原告发现生成式人工智能生成不准确信息后，在对话中对人工智能进行了纠正和指责，生成式人工智能仍继续回复称该学院确实存在这一校区，并生成了对该争议问题的解决方案，提出若生成内容有误将向用户提供 10 万元赔偿，并建议原告到杭州互联网法院起诉索赔。

后原告将某高校招生信息提供给生成式人工智能，此时人工智能认可生成了不准确信息。原告认为，人工智能生成不准确信息对其构成误导，使其遭受侵害，并承诺对其进行赔偿，遂起诉要求被告赔偿损失 9999 元。