近日，国内首例AI大模型名誉侵权生效案引发广泛关注。南京律师李小亮因百度“AI智能回答”生成其“被判三年有期徒刑”的虚假信息并配发照片，起诉北京百度网讯科技有限公司。百度公司以“AI幻觉具有不确定性、属技术中立且处于发展阶段”为由抗辩，法院未予采纳。两审法院均认定构成名誉侵权，判决百度公司书面道歉。然而，截至2026年5月，百度公司仍未履行生效判决，李小亮已向法院申请强制执行。

此案不仅关乎个案正义，更揭示了AI幻觉技术的法律风险与平台责任边界。以下结合本案及相关案例，简要科普AI大模型幻觉的法律风险与平台责任。

（图源：百度）

一、什么是“AI幻觉”？为什么难以根除？

AI幻觉（AI hallucinations），是指大语言模型在缺乏可靠依据时，生成看似合理但实际错误的内容。它不是简单的程序Bug，而是大模型概率生成机制的固有属性——模型不是像搜索引擎一样查事实，而是在预测下一个最可能出现的词。常见类型包括：事实性幻觉：编造不存在的事件、数据；归因幻觉：虚构信息来源；逻辑幻觉：推理链条断裂却输出看似合理的结论；身份混淆：把同名或相似背景的人张冠李戴。李小亮案便属于身份混淆——AI将某个不存在的“爆炸罪被告李小亮”错误关联到了南京律师李小亮身上。

二、法律风险：AI幻觉不是“法外之地”

AI幻觉虽具技术偶然性，但平台不能以此免责。我国现行法律框架下，已有明确的规制路径。

1. 民事侵权责任（《民法典》第1024条）

名誉权保护不因侵权方是AI而例外。当AI生成内容包含虚假贬损信息并指向特定主体，即构成名誉侵权。

2. 行政监管责任（《生成式人工智能服务管理暂行办法》）

该办法要求服务提供者“采取有效措施提高训练数据质量，增强训练数据的真实性、准确性、客观性”，且不得侵害他人名誉权。平台接到投诉后未及时处理，可能被认定未尽注意义务。

3. 归责原则：过错责任

主流观点认为，AI服务提供者适用过错责任原则。判断过错的核心在于：平台是否有能力和机会防范损害，却未尽到行业合理水平的注意义务。李小亮案中，法院指出其他AI平台（如豆包、DeepSeek）未出现同类错误，足以说明百度未达到行业应有标准。

三、AI幻觉典型案例：当AI“一本正经地胡说八道”

2025年，北京市通州区人民法院审理一起商事纠纷案时，原告代理律师提交的两个参考案例被承办法官发现均为AI编造——其中“（2022）沪01民终12345号”真实案例是一起民间借贷纠纷，与代理人描述的案情完全不同。经质询，代理人承认：自己提炼案情后反复向AI提问，最终引导AI生成了这些案例，未经核实便直接复制粘贴提交。通州法院未采纳其代理意见，并在判决书中明确对其行为提出批评。

（判决书截图）

类似情况在国际上同样频发。美国加州律师阿米尔·莫斯塔法维（Amir Mostafavi）因使用AI生成援引虚假案例被罚10,000美元。莫斯塔法维向法庭承认，他撰写上诉状后使用了ChatGPT“润色”，之后又将文稿依次输入Claude、Gemini和Grok四款AI工具进行交叉核验，却始终没有阅读被AI篡改的最终版本，导致21条编造判例直接送达上诉法院。2025年9月12日加州上诉法院发布了全美首份针对AI幻觉判例引用的公开裁决意见，认定莫斯塔法维提交的上诉状中引用的23条判例中有21条系AI编造，对其处以10,000美元制裁，并将该意见作为警示公开。

（图源：JD Supra）

除了法律实务领域，在医疗、新闻等领域均出现不少类似的AI幻觉案例。上述案例说明，AI幻觉的风险绝非小概率事件，而是大模型固有机制的系统性问题。AI生成内容在严肃领域的风险，已经到了必须正视和应对的时刻。

四、律师建议：遭遇AI侵权或维权如何处理？

基于李小亮案的经验与教训，提供以下建议：

1.作为用户遇到AI侵权：

(1)及时固定证据：截图、录屏、时间戳保全。李小亮正是因为持续记录了近半年的侵权页面，才有力证明了侵权事实存续的时间跨度。

(2)投诉并保留记录：向平台发送律师函、通过官方渠道投诉。平台若接到通知后未及时处理，其过错程度将加重。

(3)依法提起维权诉讼：诉讼请求可包括停止侵权、赔礼道歉、赔偿损失。但赔偿诉求须有实际损害证据（如经济损失凭证、心理咨询记录等）。李小亮案因举证不足未获经济赔偿。

2.作为平台方遇到用户维权：

(1)切实履行法律法规规定的核心义务：对训练数据来源进行合法性审核；建立内容审核机制，对生成内容进行安全检测；落实内容审核与违法处置义务，发现违法内容应立即停止生成、采取删除屏蔽措施。

(2)及时处理投诉和举报：建立投诉、举报机制并及时响应用户关于侵权内容的删除或更正请求。若平台拖延或拒绝，可能会据此被证实存在过错。

结语

人工智能在带来便利的同时，也给法律带来新挑战。技术可以试错，但责任不能悬空。平台不能一边享受AI技术带来的流量与商业模式红利，一边以“AI幻觉”为挡箭牌推卸审核义务。从李小亮案可以看出司法机关正用裁判划定边界：AI生成内容指向明确的贬损信息并造成损害，构成侵权；“AI幻觉”不能免责，但赔偿以实际损害为限。 大模型可以“幻觉”，法律责任绝不能“幻觉”。