当 AI 一本正经地 “胡说八道” 从订餐乌龙、误导退票，演变为凭空捏造犯罪事实、恶意诋毁个人名誉，技术的边界在哪里？谁该为 AI 的 “幻觉” 买单？
去年9月，北京锦钟律所黄贵耕律师因被AI造谣“威胁法官、伪造印章”，将涉事平台告上法庭。6月12日，在南都举办的数字经济治理沙龙现场，黄贵耕结合自身维权经历，剖析了生成式AI侵权背后的现实困境与法律争议。“我从未对AI宣战，我抵制的是将AI幻觉作为恶意侵权挡箭牌的行为。”
黄贵耕律师在论坛现场在线发言。
从“荒诞乌龙”到“恶意诽谤”AI幻觉侵权正演变为公共危害
“作为一名执业律师，我亲身经历了被AI平台捏造虚假信息、恶意诽谤的全过程。”在论坛分享环节，黄贵耕展示了一组截图。截图中，AI精准标注了他的姓名和执业机构，并凭空捏造出他“威胁法官”“介绍贿赂”“伪造印章”“涉嫌刑事犯罪被吊销执照”等恶劣情节。
黄贵耕表示，这些虚假负面信息被案件当事人及亲友广泛传播，致使他的社会评价严重贬损，潜在客户流失不可估量，承受着巨大的精神压力。
这并非孤例。据黄贵耕介绍，南京李小亮律师、北京安振杰律师均遭涉事AI及其旗下产品捏造定罪判刑的虚假内容；公益人士寇延丁被无端诬陷“判刑十三年”；山东青年冀承祥被恶意编造“组织卖淫罪”；就连“清芝灵卵磷脂”“栖贤山黄酒”等企业产品也未能幸免，被造谣为禁售商品。除了李小亮一案已宣判外，律师黄贵耕、作家寇延丁两人分别提起的另外两起诉讼，目前仍处于法院审理程序。
“从自然人到企业，受害者范围持续扩大。”黄贵耕指出，这类频繁侵害不特定个人名誉权的行为，已不仅是针对个人的伤害，更暴露出极大的公共危害性，势必造成社会秩序混乱和公众对AI技术的信任崩塌。
在黄贵耕的维权交涉中，涉事平台搬出“AI幻觉”作为挡箭牌，声称这是当前大模型技术发展的局限性。对此，黄贵耕不能认同。在他看来，“AI幻觉”本质是模型对数据分布的错误理解，通常表现为位置不准、数量偏差等轻微瑕疵。这与该平台编造他人罪名、篡改司法记录等行为的危害性不可等同，绝非“不可避免的技术误差”。他也同步横向对比了豆包、DeepSeek、千问等同类AI产品，发现在输入相同关键词后，其他主流大模型均能通过过滤机制拦截侵权内容。
黄贵耕从技术归因角度剖析了涉事平台输出的核心原因：一是训练数据缺陷，平台未接入权威数据库，反而在抓取网络负面信息后擅自“去匿名化”，将他人处罚记录张冠李戴；二是算法设计导向偏差，在交互中反复通过“关联问题引导”主动推送负面提问，靠流量变现驱动侵权；三是校验机制缺失，对涉及犯罪事实等高风险内容没有任何人工核验或风险提示。
“AI幻觉”成平台侵权挡箭牌？享受AI红利必须承担对等责任
在遭遇AI侵权后，受害者面临的最大痛点是“算法黑箱”。普通人很难证明平台在数据投喂和算法设计中存在具体过错，也难以溯源虚假信息究竟是哪一次交互引发的。这种技术壁垒让受害者在维权时处于绝对弱势。
AI侵权发生后，平台是否真的无法核查和纠错？黄贵耕在论坛现场引用了山东教育电视台的一则报道：腾讯元宝AI在除夕夜出现辱骂用户的异常输出后，官方迅速核查日志并发布致歉声明，明确“与用户操作无关，不存在人工回复，属于小概率下的模型异常输出”，并承诺后续将紧急优化。
“这说明生成式AI服务提供者，具备对用户调取AI服务的操作日志进行全面核查及整改的技术能力。”因此黄贵耕认为，其所诉涉事平台以“AI幻觉”不可预见为由，在首次侵权出现后未及时整改，持续生成侵权内容，实属以算法黑箱甩锅。“这就像司机明知刹车失灵仍上路撞人，不能把责任推给汽车。”
在法律责任的界定上，黄贵耕驳斥了平台常引用的“技术中立”和“AI非民事主体”的免责逻辑。他认为，司法实践中，“技术中立”的前提是平台已尽到合理防控义务。若同行业其他产品可规避同类错误，唯独某平台反复出现恶性侵权，就证明平台存在明显过错。“所谓的‘避风港原则’，针对的是平台仅作为信息载体、供用户上传内容的情况。但我所诉的AI恶意侵权内容是平台自主生产的，本质是平台行为的延伸，根本不适用避风港原则。” 黄贵耕说，近期德国慕尼黑地方法院首次裁定谷歌要为 AI 搜索摘要的幻觉问题承担直接责任，这也印证了平台主体责任是全球共识。
“就像养狗伤人主人要担责、汽车肇事司机要赔偿，平台从AI服务中攫取了巨大流量与商业收益，绝无可能只享红利而不承担风险。”他强调，根据《生成式人工智能服务管理暂行办法》等相关法规，AI 服务提供者必须落实内容安全主体责任。在将AI产品推向公众时，有义务对生成内容审核把关、留存日志、及时处置违法虚假信息。
尽管深受AI幻觉侵权之害，但黄贵耕始终对人工智能技术持正面态度。“AI 确实极大提高了工作效率，我日常也会使用豆包、元宝、Kimi 等 AI 产品作为办公助手。媒体报道中说我‘对 AI 宣战’，这是不准确的，我只是对涉事AI平台的恶意侵权行为说不。”
他认为，AI 行业必须告别 “重创新、轻风控，重流量、轻责任” 的野蛮生长模式。对此，他提出三点建议：平台要补全全流程风控，接入官方权威数据库，优化算法取消负面诱导设计，建立 7×24 小时投诉通道；监管部门要细化 AI 侵权处罚规则，对风控缺失、频繁恶性侵权的平台依法重罚，对缺陷 AI 产品必须像缺陷汽车一样召回整改；用户要提高警惕，涉及职业资质、司法记录等关键信息，务必通过官方渠道核实。
在技术狂飙突进的当下，如何打破算法黑箱、完善法律规制、让平台真正扛起主体责任，已成为生成式AI行业健康发展的必答题。“AI 的未来充满想象，但底线永远是法律与良知。” 黄贵耕在发言的最后表示，希望通过自己的维权经历，推动行业规范发展，让 AI 真正回归便民利民的本质，而非沦为伤人的利器。
出品：南都数字经济治理研究中心
采写：南都N视频记者吕虹 发自北京
更多报道请看专题：AI出错，谁为模型“幻觉”买单？
富通优配提示：文章来自网络，不代表本站观点。
