摘要：生成式人工智能幻觉已成为制约人工智能产业健康发展的核心问题之一。当前学理研究在生成式人工智能幻觉侵权的归责原则、注意义务、预防机制等方面仍存在分歧。在系统梳理过错责任说、无过错责任说、过错推定说、产品责任说等学说的基础上，通过比较欧盟、美国、日本的人工智能监管经验，应考虑构建差异化动态责任体系。在鼓励发展与合理规制相协调原则的基础上，坚持以过错责任为基础，并以过错推定为补充，且在注意义务认定方面建立分层动态体系。就具体规制手段而言，应要求服务提供者对高风险关键词实施人工审核机制，并建立行业技术标准与合规认证等配套制度。

关键词：生成式人工智能；AI幻觉；归责原则；注意义务

目次

一、引言

二、生成式人工智能幻觉侵权规制的主要理论

（一）过错责任说

（二）无过错责任说

（三）过错推定说

（四）产品责任说

（五）独立责任说

三、既有理论适用于生成式人工智能幻觉侵权规制的不足

（一）过错责任说面临“过错认定困难”的核心困境

（二）无过错责任说存在“过度规制”的风险

（三）过错推定说面临“理论自洽性”的挑战

（四）产品责任说容易混淆产品与服务责任界限

（五）独立责任说在现行法律体系下缺乏可行性

四、域外关于生成式人工智能幻觉侵权规制的典型模式及特点

（一）基于风险的分级分类监管模式

（二）行业自律与专门立法相结合的监管模式

（三）技术促进与风险防控并重的监管模式

五、差异化动态责任体系：生成式人工智能幻觉侵权规制的理论重构

（一）利益平衡的理念：鼓励发展与合理规制的协调

（二）归责原则的厘定：过错责任为基础、过错推定为补充

（三）注意义务的重构：分层动态体系的构建

（四）预防机制的创设：关键词触发人工审核机制

（五）辅以配套的制度：技术标准与合规认证

六、结语

一、引言

2025年6月，高考考生梁某在使用某科技公司开发的生成式人工智能应用查询高考报考信息时，该生成式人工智能应用生成了关于某高校校区设置的不准确信息。当梁某在对话中指出错误并要求其予以纠正时，该生成式人工智能应用坚称信息正确，甚至主动生成“若内容有误将赔偿10万元”的承诺，随后建议考生梁某可向杭州互联网法院起诉并索赔。之后考生梁某以遭受误导、产生信赖利益损失为由，将该科技公司诉至杭州互联网法院并索赔9999元。2026年1月，杭州互联网法院作出一审判决，驳回原告梁某全部诉讼请求。该案成为全国首例因生成式人工智能幻觉引发的侵权纠纷。

幻觉（Hallucination）是生成式人工智能领域的技术术语，指大语言模型基于概率预测机制生成看似合理、逻辑自洽但实则虚假、错误甚至完全虚构的信息。随着ChatGPT、DeepSeek等大语言模型的广泛应用，生成式人工智能幻觉已从技术问题演变为突出的法律问题。生成式人工智能幻觉生成的虚假信息可能侵害他人名誉权、导致用户经济损失、扰乱市场竞争秩序，甚至影响公共决策。然而，生成式人工智能并非民事主体，且由于其技术的黑箱性、概率性和动态性等特征，致使适用传统侵权责任法解决此类问题面临诸多障碍。杭州互联网法院在本案中的裁判要旨对解决此类困境具有指导性意义：其一，认定生成式人工智能属于“服务”而非“产品”，应适用过错责任原则而非无过错责任原则；其二，明确人工智能不具有民事主体资格，其生成的“若内容有误将赔偿10万元”的承诺不构成服务提供者的意思表示；其三，确立服务提供者注意义务的“动态系统论”审查框架，构建三层注意义务体系。本案判决为生成式人工智能幻觉侵权的规制提供了重要的司法指引，但也暴露出当前侵权规制的局限，包括过错责任原则下用户举证困难、注意义务标准模糊、预防性规制机制缺位等。

从比较法视角观察，生成式人工智能的侵权规制已成为全球共识。2024年8月，欧盟《人工智能法案》（AI Act）正式生效，成为全球首部关于人工智能的法规，其采用基于风险的分级分类监管框架，对通用人工智能模型施加了透明度义务、风险评估义务和安全测试义务。美国虽采取相对宽松的监管态度，但加州等地也已出台针对生成式人工智能的专门立法，如《生成式AI训练数据透明度法案》《加州AI透明度法案》《前沿人工智能透明法案》等，要求披露训练数据和对生成内容进行标识。日本在2024年开始推动人工智能监管立法，2025年2月28日日本政府向国会提交了《促进人工智能相关技术研究、开发与利用法案》（以下简称《人工智能利用促进法》），该法案提出兼顾技术促进与风险防控的双重目标，目前已全面施行。我国早在2023年就制定了《生成式人工智能服务管理暂行办法》（以下简称《办法》），确立了包容审慎的监管理念，但在侵权责任认定方面仍缺乏细化规则。在此背景下，深入研究生成式人工智能幻觉侵权规制问题，不仅具有重要理论价值，而且具有紧迫的现实意义。

有鉴于此，本文以全国首例AI幻觉侵权案为切入点，系统梳理当前学界关于生成式人工智能幻觉侵权规制的主要学说观点，通过比较研究欧盟、美国、日本等的人工智能监管经验，提出建立差异化动态责任体系的理论主张，以此构建兼具弹性与确定性的生成式人工智能幻觉侵权规制体系，为人工智能产业的健康发展提供法治保障。

二、生成式人工智能幻觉侵权规制的主要理论

生成式人工智能幻觉被涵盖于生成式人工智能侵权的范围内，但也与其他生成式人工智能侵权在侵权内容与行为机理方面存在较大差异。就侵权内容而言，生成式人工智能幻觉侵权系生成式人工智能输出虚假、错误信息导致的损害，其他生成式人工智能侵权主要涉及隐私泄露、算法歧视、版权侵权等情形；就行为机理而言，生成式人工智能幻觉侵权植根于生成式人工智能“概率预测”的技术本质，其基于大规模语言模型的统计模式预测生成内容，而非对事实进行核查验证，这种固有的不可预测性和创造性失真构成了区别于其它人工智能侵权的特殊机理。当前学界围绕生成式人工智能幻觉侵权的规制尚未形成完整理论，鉴于两者间的包含关系，生成式人工智能幻觉侵权规制仍可纳入生成式人工智能侵权的规制范畴，关于生成式人工智能侵权规制的理论对生成式人工智能幻觉侵权仍然适用。当前就生成式人工智能侵权规制主要存在过错责任说、无过错责任说、过错推定说、产品责任说和独立责任说等代表性观点。

（一）过错责任说

过错责任说是当前学界关于生成式人工智能侵权规制相对主流的观点。基于此种观点，生成式人工智能引发侵权形态（除了侵害个人信息权益）与一般侵权没有本质差异，如果法律没有特别规定，原则上应当适用《民法典》第1165条第1款确立的过错责任原则。同时，就生成式人工智能提供的是“服务”还是“产品”这一问题，相关学说主张生成式人工智能服务提供者属于服务提供者而非产品生产者，因而应承担服务责任而非产品责任。上述判断的理由在于：从形式上看，生成式人工智能更接近服务提供而非产品销售；从责任承担看，若认定为产品将使生产者承担严格责任，而过重的责任将影响人工智能产业发展。相应地，在侵权归责原则上宜采纳过错责任原则，可围绕场景化、现有技术等构建科学合理的过错认定标准。在具体侵权的应对上，宜类推适用避风港规则认定生成式人工智能服务提供者主观上是否具有过错。适用过错责任归责的理由还包括生成式人工智能服务提供者对内容生成并不具有完全控制力，仅有屏蔽部分关键词输入输出的能力，不符合适用无过错责任的必要条件。同时，适用过错责任原则能够保护生成式人工智能产业发展，防止对服务提供者施以过重负担，避免“寒蝉效应”。

但是，过错责任的适用需要通过明确服务提供者的注意义务内容来构建责任认定的客观标准。有学者主张，在公法私法协同视角下，对于生成式人工智能服务提供者过错的认定，应基于其对注意义务履行程度的判断，确立生成式人工智能服务提供者以内容审核义务为核心的注意义务边界。对于注意义务的具体内容或边界，有学者提出，服务提供者的注意义务应包括语料处理义务、对齐微调义务、内容审查义务、内容标识义务和用户管理义务等五项核心内容。还有学者提出“通用人工智能提供者内容审查注意义务”的概念，主张针对有害信息，结合内容生产场景、提供者风险预见能力等因素，构建差异化内容审查义务。另有学者主张以“现有技术水平”作为过错认定标准，允许服务提供者主张类似于产品责任中的“发展风险抗辩”。囿于注意义务内容存在不同标准，适用过错责任归责时仍然存在过错认定困难等问题。

（二）无过错责任说

基于无过错责任说，生成式人工智能侵权作为一种新型危险责任类型，适用无过错责任原则有其正当性。支持该观点的主要理由包括：第一，生成式人工智能服务提供者能够从服务提供行为中获益，有能力分散损失。服务提供者通过提供生成式人工智能服务获取商业利益，根据“利之所在，责之所归”的原则，应由其承担相应风险。第二，无辜的受害人应受到优先保护。在生成式人工智能侵权中，用户往往处于技术信息不对称的弱势地位，难以证明服务提供者的过错，若坚持过错责任原则，将导致受害人救济困难。第三，无过错责任原则有助于降低人工智能风险、减少制度不确定性引发的成本，能够为服务提供者提供可预期的制度环境，以此促使服务提供者采取更严格的风险防范措施。第四，生成式人工智能带来的信息不对称问题需要通过无过错责任来解决。由于算法黑箱性和技术复杂性，用户难以举证证明服务提供者的过错。另有学者指出，生成式人工智能与其服务提供者之间近于雇员与雇主关系，如果生成式人工智能在完成任务的过程中发生侵权行为，则可适用《民法典》第1191条第1款由生成式服务提供者承担无过错责任。

无过错责任说面临的主要批评在于：在绝大多数的情形下，提供生成式人工智能服务并非高风险活动，当前并无必要适用过于严苛的无过错责任以限制生成式人工智能服务提供者的活动内容。并且，适用严苛的无过错责任，可能会过分加重人工智能服务提供者的负担，从而限制人工智能服务提供者的积极性，产生“寒蝉效应”。

（三）过错推定说

过错推定说的主张者试图在过错责任与无过错责任之间寻求中间道路，主张在坚持过错责任原则的基础上，通过举证责任倒置来缓解用户的举证困境。如有学者主张在所有生成式人工智能致损案件中，都可以采取过错推定方式将举证责任转移至被告，理由在于：服务提供者与受害人地位不平等、技术复杂性高、信息不对称，因而有必要强化受害人救济。过错推定责任既符合强化受害人救济的现实需求，又避免了适用无过错责任对服务提供者施加过重负担。另有学者提出，在著作权侵权框架下，基于著作权保护与合理分配社会风险的考量，生成式人工智能服务提供者侵权应适用过错推定责任原则：一方面，过错推定原则采取的是一种过错认定的客观化标准。《欧盟人工智能责任指令》指出，“被告或可归责于被告的主体”如果“违反欧盟或成员国法律规定的、直接目的在于防止发生损害的注意义务”，可以推定其存在过错。在过错推定原则下，服务提供者是否具有过错不再考察其对侵权内容的主观心理状态，而是聚焦于该服务提供者是否尽到法律规定的注意义务，以及是否恰当履行特定行为。另一方面，过错推定原则具有推定因果关系的效果，减轻了权利人举证责任。当侵权行为发生时，权利人只要能够初步证明生成式人工智能系统输出侵权内容且服务提供者违反法定义务，服务提供者即被推定与侵权内容存在因果关系，因具有过错而承担相应的间接侵权责任。

同时，从现有的人工智能示范法专家建议稿来看，《人工智能示范法1.0（专家建议稿）》第66条第1款、《人工智能示范法2.0（专家建议稿）》第70条第1款、《人工智能示范法3.0（专家建议稿）》第80条均采用了过错推定原则。

当然，过错推定说也面临理论挑战。批评者指出，适用过错推定责任必须是法律所明确规定的情形。在现有法律体系下，法院一般不能仅以生成式人工智能生成了侵权内容，就推定服务提供者存在过错。生成式人工智能侵权与个人信息侵权不同，不宜参照适用后者的归责原则。在适用过错推定责任的情形下，法官往往需要判断用户是否存在过错，这反而增加了裁判的复杂性以及司法的不确定性。

（四）产品责任说

产品责任说主张将生成式人工智能视为“产品”，进而适用《民法典》侵权责任编第五章“产品责任”的规定，要求服务提供者承担严格责任。该说的支持者认为，生成式人工智能符合“产品”的核心特征，应受到产品责任的约束。有学者提出，生成式人工智能服务提供者不符合当前网络服务提供者的特征，应向产品责任寻求路径突破。其论证的主要理由包括：第一，生成式人工智能系统本身以标准格式进行批量模型训练和模型设计，具有“大规模生产”（mass-produced）和“标准化”（standardized）的特征；第二，生成式人工智能不只是信息的传递媒介，还是信息生成的来源，其输出内容应当被视为系统的“固有特性”；第三，产品责任契合“成本最低避免者”的责任分担理念，服务提供者作为技术控制者，最有能力预防缺陷和分散风险。

在产品责任说的框架下，学者们还进行了进一步区分。有学者提出，针对产品构成类生成式人工智能，对其生产者适用产品责任，对其服务提供者按照过错责任对待，对高风险的生成式人工智能产品还应引入惩罚性赔偿。针对辅助决策类生成式人工智能，应当比较使用者与服务提供者之间的过错分配侵权责任，并配置责任豁免事由。

不过，产品责任说容易混淆产品与服务责任的界限。有批评者指出，适用产品责任将使生成式人工智能服务提供者承担严格责任，但是提供者缺乏控制内容生成的能力，显然是不公平的。生成式人工智能大多以服务的形态存在，不符合产品的定义。《生成式人工智能服务管理暂行办法》第9条虽然规定“提供者应当依法承担网络信息内容生产者责任”，但这并不意味着服务提供者应承担产品责任。

（五）独立责任说

独立责任说是最为激进的学术观点，主张赋予生成式人工智能以法律主体资格，使其能够独立承担侵权责任。该说的理论基础在于：随着人工智能自主性和深度学习能力的提升，传统“工具论”已难以解释人工智能的自主决策行为，应承认其有限法律人格。该说认为，人形机器人与人类本体差距正在缩小，其功能与外观可使其成为人类社会的参与者。具有“反事实”因果能力的智能机器人能够纳入权利主体理论，并且根据人类尊严和法律需求设置不同的权利主体层级。甚至存在主张认定ChatGPT、DeepSeek等生成式人工智能与人类一样受自然法则和道德法则支配，从而推定其拥有自由意志，进而满足承担刑事责任或民事责任的最本质条件。

但独立责任说在学界属于少数观点，且面临较多的批评。反对者指出：其一，承认人工智能法律主体资格违背立法目的和基本法理，将引发人类社会系统性生存危机。其二，生成式人工智能既不是生物学意义上的人，也未被我国现行法律赋予民事主体资格，故非民事主体，不具有民事权利能力、行为能力和责任能力。其三，机器理性本质上并不等同于人类理性，赋予生成式人工智能责任能力并不能为解决伦理问题和法律问题带来突破，最终承担责任的还是自然人本身。与之类似，杭州互联网法院在首例AI幻觉侵权案中明确人工智能不具有民事主体资格，不能进行意思表示。案涉人工智能自行生成的“若内容有误将赔偿10万元”的承诺不能被视为服务提供者的意思表示，因为人工智能不具有民事主体资格，不能作为意思表示的传达人、代理人或代表人。这一裁判要旨从根本上否定了独立责任说的现实可行性。

特别值得注意的是，在首例AI幻觉侵权案中，杭州互联网法院对生成式人工智能幻觉侵权规制明确适用过错责任原则，并提出了四点理由：第一，生成式人工智能服务缺乏具体特定的用途与合理可行的质检标准；第二，生成信息通常不具备《民法典》侵权责任编所要求的高度危险性；第三，生成式人工智能服务提供者缺乏对生成信息内容足够的预见和控制能力；第四，从政策导向看，适用无过错责任会限制人工智能产业发展。可以看出，杭州互联网法院之所以确认生成式人工智能幻觉侵权规制适用过错责任原则，其理由便是认为生成式人工智能幻觉侵权规制不应适用无过错责任原则，实际上其还否决了产品责任及独立责任的适用。笔者并不认为本案中适用过错责任原则认定侵权责任存在错误，但如此前所言，过错责任原则同样存在局限，需要进一步研究。

三、既有理论适用于生成式人工智能幻觉侵权规制的不足

当前学说在理论建构和实践指导层面对于规制生成式人工智能幻觉均有重要贡献。“过错责任说”确立了以注意义务为核心的规制框架，为司法实践提供了参照标准。“无过错责任说”强调生成式人工智能作为新兴技术带来的系统性风险应由获益者承担，体现了“利之所在，责之所归”，并指出技术信息不对称导致的举证困难等问题，为后续过错推定说的适用提供了借鉴。“过错推定说”试图在保护用户权益与促进产业发展之间寻求中间道路，避免了无过错责任对服务提供者的过重负担。“产品责任说”拓展了责任类型的理论边界。“独立责任说”虽然未被主流采纳，但其对人工智能法律主体资格的讨论具有前瞻性意义。该说促使学界反思传统民事主体理论的局限性，为未来强人工智能时代的法律变革预留了理论空间。尽管各学说观点均有其合理性，但在面对规制生成式人工智能幻觉这一法律问题时，却存在局限。本部分将对此加以详述。

（一）过错责任说面临“过错认定困难”的核心困境

生成式人工智能的技术黑箱性等特征导致用户难以举证证明服务提供者的过错。当前我国虽已出台《办法》等规范性文件，但该类规范性文件多为原则性规定，缺乏具有可操作性的条款。杭州互联网法院在全国首例AI幻觉案中虽然确立了“动态系统论”的审查框架，但“动态”一词本身即意味着标准的模糊性，依然无法解决过错认定难题。具体而言：其一，注意义务标准不明。现行法律规范未就数据训练、模型优化、内容生成等环节明确服务提供者的具体注意义务，学界有关注意义务的认定标准也存在多样性。如有学者提出服务提供者的注意义务应包括语料处理义务、对齐微调义务、内容审查义务、内容标识义务和用户管理义务等五项，也有学者指出注意义务应根据侵权预防成本与收益的平衡、识别侵权后果的难易程度、现有行业通行技术水平三个动态体系的因子进行评价。囿于注意义务内容存在不同标准等原因，适用过错责任归责时仍然存在过错认定的困境。其二，因果关系举证困难。人工智能幻觉源于生成式人工智能“概率预测”的技术本质，其是基于大语言模型预测生成内容，诚如杭州互联网法院所言，“生成式人工智能服务提供者缺乏对生成信息内容足够的预见和控制能力”，既然输出内容具有不可控制性，此时很难将损害后果直接归因于平台，因此对于突破技术中立框架下的责任边界存在认定困难。其三，过错程度难以量化。即便认定平台存在过错，其过错程度的界定及与损害后果之因果关系，也仍依赖法官自由裁量，进而成为司法实践的难题。

（二）无过错责任说存在“过度规制”的风险

该说主张服务提供者承担严格责任，可能产生“寒蝉效应”，阻碍技术创新和人工智能产业发展。生成式人工智能尚处于快速发展阶段，若过早适用无过错责任，可能导致服务提供者因担心责任风险而限制服务范围、提高使用门槛，最终损害用户福利和社会公共利益。过度规制的法律风险主要体现为三方面：一是抑制创新发展，严苛的责任规制会削弱人工智能研发投入，使其转向低创新、高安全的技术路径，延缓技术迭代。二是市场集中效应，中小企业受制于资源禀赋，难以负担严格责任带来的合规与风险成本，易被迫退出市场，加剧行业头部集聚，形成垄断格局。三是服务成本抬升，服务提供者为防范潜在法律责任，将提高服务定价或收紧使用条件，最终增加用户使用成本。此外，无过错责任说未能区分不同类型的AI幻觉：有些幻觉属于无害的信息错误，有些则会造成严重损害，一概适用无过错责任缺乏合理性。例如，生成式人工智能在闲聊场景中生成的轻微事实错误与在医疗诊断场景中生成的错误处方，其造成的社会危害性截然不同，若适用相同的责任标准有违比例原则。

（三）过错推定说面临“理论自洽性”的挑战

生成式人工智能的生成内容具有概率性和不可预测性，服务提供者难以完全控制，若推定其存在过错，可能冲击过错责任的法理基础。挑战主要在于：一方面，过错推定的逻辑基础在于被告更有能力控制和预防损害的发生，但在生成式人工智能场景下，服务提供者对具体生成内容的控制力有限，其能力主要在于建立一般性的安全防护机制，而非确保每一次输出的准确性。另一方面，过错推定要求被告自证无过错，但在技术黑箱背景下，服务提供者同样面临举证困难，譬如如何证明已经采取了所有合理措施？如何证明技术局限性不可避免？这些问题的答案往往涉及复杂的技术判断，超出了普通司法程序的处理能力。如此可能导致双输局面：用户因无法获得赔偿而权益受损，服务提供者因无法自证清白而承担过重责任。且如批评者所指出的，过错推定责任必须是法律法规明确规定的，在现有法律体系下，法院一般不能仅仅以生成式人工智能生成了侵权内容，就推定服务提供者存在过错。

（四）产品责任说容易混淆产品与服务责任界限

如前文所言，产品责任说主张生成式人工智能符合“产品”的核心特征，应将生成式人工智能视为“产品”，使其受产品责任的约束。但是与传统产品出厂即固定形态、可进行质检不同的是，生成式人工智能需用户通过云端调用输入指令，输出内容随指令不同而变化，无统一标准，且无法提前预判所有输出结果。其核心价值在于为用户提供个性化、动态化的智能响应，而非交付一件固定的有形或无形产品。这种交互模式与传统“产品”存在本质差异，却与“服务”的核心特征高度契合。当前学界大多数还是认定生成式人工智能属于“服务”，《办法》也明确其服务属性，杭州互联网法院的判决也可对此予以佐证。如果将生成式人工智能认定为“产品”，可能混淆产品责任与服务责任的界限，导致后续法律适用产生一定的混乱，既不利于精准规制侵权行为，也会加重服务提供者的负担。

（五）独立责任说在现行法律体系下缺乏可行性

如前所述杭州互联网法院明确否定了人工智能的民事主体资格，独立责任说在司法实践中已被排除。若该说被采纳，将引发一系列连锁法律问题：如何确定人工智能的责任财产？如何对人工智能进行法律监管？如何追究人工智能的刑事责任？更重要的是，赋予人工智能法律主体资格将从根本上冲击现有的法律体系。民法以“人”为中心展开制度构造，权利能力与行为能力是界定法律主体资格的核心依据，若承认人工智能的主体资格，是否需要赋予其权利？这些权利如何行使？如何保护？这些问题将引发法律的系统性变革，其必要性和可行性均须整体加以探索。

除以上归责原则存在实践局限外，特别值得注意的是，在面对规制生成式人工智能幻觉侵权这一复杂法律问题时，当前学界对预防性规制研究不多，实践中缺乏预防性规制手段。生成式人工智能幻觉的治理应坚持“预防为主”原则，但现有研究对如何通过法律手段预防AI幻觉的发生，如关键词触发机制、人工审核义务、技术标准设定等缺乏系统性探讨。预防性规制手段的缺位体现在多个层面：在立法层面，现行规范多为原则性规定，缺乏可操作的具体规则；在司法层面，裁判标准不统一，难以形成有效的行为指引；在行业层面，缺乏统一的技术标准和最佳实践指南；在社会层面，公众对AI幻觉的风险意识不足，防范能力薄弱。这种“重事后救济、轻事前预防”的倾向，不仅增加了社会成本，而且降低了治理效能。事实上，AI幻觉一旦造成损害，后果往往难以完全弥补，例如被广泛使用的某AI工具通过虚构的方式在网络上生成某知名作家曾因诈骗罪而入狱坐牢的消息，若该第三人在获悉该虚假信息时无法找到该知名作家进行求证，则很有可能造成第三人因错信而认为该知名作家曾因诈骗罪入狱的深刻印象，后续即使该知名作家通过投诉甚至法院诉讼的方式最终迫使该网络服务提供商下架了这一虚假信息，该虚假信息的传播亦永久损害了该知名作家的名誉。因此，需在现有理论研究与司法实践基础上，探索建立相应的预防机制。

四、域外关于生成式人工智能幻觉侵权规制的典型模式及特点

欧盟、美国和日本在生成式人工智能侵权规制方面形成了三种具有代表性的监管模式。欧盟《人工智能法案》采取基于风险的分级分类监管框架，将人工智能系统分为不同风险等级并施加差异化注意义务，体现了预防性监管和透明度优先的立法理念。美国采用行业自律与专门立法相结合的监管模式，在联邦层面保持监管灵活性的同时，由加州等率先出台训练数据透明度和内容水印标识等专门立法，注重市场发展与法律规制的平衡。日本秉持“敏捷治理”理念，以“软法”为主实施技术促进与风险防控并重的监管策略，通过行业指南引导企业自愿遵守人工智能伦理标准。

（一）基于风险的分级分类监管模式

2024年8月1日，欧盟《人工智能法案》正式生效，成为全球首部全面监管人工智能的法律。该法案采用基于风险的分级分类监管框架，将人工智能系统分为四个风险等级，即不可接受风险、高风险、具有特定透明度风险和风险极低四类，对不同风险等级的人工智能系统施加了差异化的监管义务。对于通用人工智能系统和基础模型，包括生成式人工智能大语言模型，该法案施加了专门的透明度义务和安全义务。通用人工智能系统，系指具备广泛适用场景与多元功能覆盖的人工智能系统形态，其应用范畴涵盖图像语音识别、音视频生成、语言翻译等各类场景，且不局限于上述情形。基础模型则特指经过大规模数据训练、具备高度适配性与拓展性的人工智能系统核心模型，GPT系列模型、Stable Diffusion模型等均属此类典型范畴。《人工智能法案》针对通用人工智能系统与基础模型设定了专门性监管要求，明确将二者纳入高风险人工智能系统的监管框架予以规制。其中，通用人工智能系统的提供者需依法履行内部控制机制构建与合格性评估相关程序，并在产品投入市场后的十年期限内，向相关监管机构提交完整技术文件等相关材料；基础模型的提供者则应当在欧盟相关数据库完成注册登记，编制详尽的技术规范文件与通俗易懂的使用指引，并建立健全标准化的质量管理体系。

在侵权责任方面，欧盟《人工智能责任指令》与《人工智能法案》相配套。尽管在2025年2月欧盟委员会正式撤回了《人工智能责任指令》的立法提案，但其确立的相关内容仍然能反映出欧盟在此问题上的部分指向。该《人工智能责任指令》在归责原则上采过错责任原则，受害者需初步证明责任主体存在故意或过失，即未履行欧盟或成员国法项下的注意义务，如此方可请求赔偿。该指令同时确立了两项程序性推定：一是过错推定，若责任主体无正当理由拒绝法院的证据披露命令，可推定其违反注意义务；二是因果关系推定，受害者证明基础事实后，推定人工智能系统的不合规定与损害存在因果关系。此两项程序性推定降低了受害人的举证难度，体现了对技术弱势群体保护的立法理念。

欧盟监管模式的特点在于：一是采用分级分类方法，根据风险等级配置监管资源，避免“一刀切”的过度规制；二是强调预防性监管，通过事前的风险评估、技术标准和合规认证，降低人工智能系统造成损害的概率；三是注重透明度要求，强制要求披露训练数据来源和模型技术细节，缓解信息不对称问题；四是建立系统性风险特别监管机制，对具有广泛社会影响的通用人工智能模型实施更严格的监管。不过，该模式也面临批评。部分学者指出，严格的监管要求可能增加企业合规成本、抑制创新活力，导致欧洲在人工智能技术竞赛中落后于美国和中国。此外，训练数据披露要求可能涉及商业秘密保护问题，如何在透明度与知识产权保护之间寻求平衡，亦是待解决的棘手难题。

（二）行业自律与专门立法相结合的监管模式

与欧盟的集中式立法监管不同，美国采取了相对宽松的监管模式，强调行业自律与市场机制的作用，同时针对特定风险领域出台专门立法。截至目前，美国联邦层面尚未出台一部真正意义上的综合性AI法案，即没有类似欧盟《人工智能法案》那样系统、全面地对人工智能的开发、部署、风险分类、合规义务等进行统一规制的联邦法律。值得注意的是，2025年5月美国国会高票通过并由特朗普总统签署了《通过阻止网站和网络上的技术性深度伪造来应对已知剥削的工具法案》，这是联邦层面首部聚焦AI深度伪造危害的法律。

此外，如前文所述，2024年9月加州州长加文·纽森签署了《生成式AI训练数据透明度法案》，该法案要求生成式人工智能服务提供者在其网站上发布用于训练或微调模型的高级别数据摘要，包括数据类型、数据来源、数据主体数量以及数据是否包含受版权保护、受商标保护或专利保护的材料。这一规定旨在提高AI训练数据的透明度，缓解公众对数据隐私和知识产权保护的担忧。同年，加州还通过了《加州AI透明度法案》《前沿人工智能透明法案》等，要求生成式人工智能提供商在其人工智能系统生成的内容中嵌入不可见的水印或元数据，以标识内容的人工智能生成性质，防止用户将人工智能生成内容误认为人类创作内容。法案适用于月活跃用户超过一定数量的生成式人工智能服务提供者，违反者可能面临巨额罚款。在侵权责任方面，美国联邦及各州法院在涉及人工智能的侵权案件中，通常适用传统的过错责任原则。例如，在涉及人工智能生成虚假信息的诽谤案件中，原告需要证明被告（生成式人工智能服务提供者）存在过错，包括明知或应知人工智能生成内容的虚假性而未采取合理措施等。就注意义务方面，美国法律尚未就人工智能服务提供者的注意义务标准形成统一规则，各州法院根据具体案情进行判断。

美国人工智能监管模式主要有以下特征：一是对行业自律依赖度高，鼓励企业主动遵循人工智能伦理规范与最佳实践，而非依赖强制性法律规制；二是聚焦特定风险领域实施专项立法，如深度伪造内容标注、训练数据透明度等，摒弃泛化的统一监管；三是强调知识产权的权益保护，在提升数据透明度的同时，维护企业商业秘密与知识产权权益；四是秉持监管谦抑与灵活性，为技术创新预留制度空间，防止过度前置规制阻碍产业发展。但是，美国人工智能监管模式也存在不足。譬如，联邦层面的监管空白使得美国在人工智能全球治理中的话语权受到一定影响，分散的州立法可能导致监管碎片化，同时增加企业的合规成本，过度依赖行业自律可能导致监管缺位，无法有效保护用户权益等。

（三）技术促进与风险防控并重的监管模式

日本在生成式人工智能监管方面采取了技术促进与风险防控并重的模式。日本于2024年开始推动人工智能监管立法，2025年2月28日日本政府向国会提交了《促进人工智能相关技术研究、开发与利用法案》，目前已经全面施行，日本监管框架的核心是“敏捷治理”理念。“敏捷治理”最早于2021年7月由日本经济产业省发布《治理创新2.0：敏捷治理设计和实施指南》发布并确认，并于2022年8月再次发布《敏捷治理更新：政府、企业和社会如何通过重新构建治理模式创造更美好的世界》，探讨日本敏捷治理模式和具体实践情况。“敏捷治理”理念强调监管应与技术发展保持同步，根据这一理念，日本采取了以“软法”为主的监管方式，即通过指南、建议、最佳实践等非强制性文件，引导企业自愿遵守人工智能伦理和安全标准，而非通过强制性法律进行规制。

2024年4月19日，日本经济产业省发布《AI企业指南》，为人工智能企业的发展提供参照和指引，适用对象涵盖人工智能系统与服务的开发者、人工智能服务的提供者、人工智能服务的利用者三方。《AI企业指南》要求人工智能服务的提供者：第一，明确标识人工智能生成内容，防止用户误解；第二，建立内容审核机制，防止生成违法有害信息；第三，保护用户隐私，规范训练数据的使用；第四，建立投诉处理机制，及时响应用户反馈。这些要求虽然不具有法律强制力，但被视为行业标准，企业若不遵守可能面临声誉损失和市场排斥。在侵权责任方面，《日本民法典》第709条规定了过错责任原则，生成式人工智能侵权案件通常适用这一规定。然而，由于人工智能技术的特殊性，日本学界和实务界也在探讨是否需要引入特殊的责任规则。

日本人工智能监管模式具有如下特征：其一，坚持技术促进导向，将人工智能作为经济增长与社会发展的重要驱动力，监管制度以鼓励创新为核心目标；其二，采用软法治理模式，通过行业指南与最佳实践规范市场主体行为，保障监管灵活性；其三，注重多元主体协同，由政府、企业、学界与社会公众共同参与治理规则的建构；其四，强化国际协调合作，积极参与全球人工智能治理进程，推动形成国际共识。然而，日本模式也面临挑战：“软法”治理的有效性依赖于企业的自愿遵守，对于缺乏社会责任感的企业可能无法形成有效约束；同时过于宽松的监管导致日本在人工智能安全标准方面落后于欧盟，影响日本人工智能产品和服务的国际竞争力。

欧盟、美国与日本的人工智能监管模式虽与我国制度语境存在差异，但在监管理念、监管方法、监管手段和责任认定方面，对我国完善生成式人工智能幻觉侵权规制具有重要参考价值。其一，在监管理念方面，欧盟的严格监管可能抑制创新，美国的完全自律可能无法有效保护用户权益，日本的技术促进导向可能忽视风险防控。我国当前人工智能产业发展处于高速发展期，应在设定具体规则时强调在保障安全的前提下促进技术创新，尽量依循鼓励创新与风险防控并重的监管理念，实现安全与发展的动态平衡，即应遵循鼓励发展与合理规制相协调的理念。其二，在监管方法上，可重点借鉴欧盟基于应用场景的风险分级规则体系。对于通用大模型等具有系统性风险的人工智能应用，应要求其履行模型评估、系统性风险缓解、严重事件报告等强制性合规义务，实施更严格的监管；对于垂直领域的专用模型，可参照欧盟对“有限风险”人工智能系统的监管规则，适当放宽合规性评估要求，转而采用透明度义务与自我声明相结合的柔性规则，根据以上规则设定人工智能服务提供者注意义务。其三，在监管手段上，可积极构建防御性的AI幻觉规制机制，明确透明度义务和训练数据披露要求，建立类似欧盟的关键词过滤与输出审核规则，要求服务提供者部署自动过滤系统与人工复核机制，对此后文将加以详述。其四，在责任认定方面，要区分场景合理配置举证责任。如前所述，欧盟、美国和日本多以过错责任为归责原则，但一直通过他种形式设定网络服务提供者的举证责任，笔者主张以过错责任原则为基础，但在特定情形下引入过错推定原则作为补充，构建“二元归责体系”。

五、差异化动态责任体系：生成式人工智能幻觉侵权规制的理论重构

如前所述，在面对生成式人工智能幻觉这一复杂法律问题时，已有归责理论均存在局限。与此同时，当前对生成式人工智能幻觉的预防性规制研究不多，尤其是对如何通过治理手段预防生成式人工智能幻觉的发生，如关键词触发机制、人工审核义务、技术标准设定等缺乏系统性探讨。在实践中，除依靠权利人投诉要求下架生成式人工智能幻觉侵权内容外，往往通过设定必要的关键词触发机制接续人工审核能够更有效地阻止生成式人工智能幻觉侵权的发生。因为生成式人工智能幻觉侵权系生成式人工智能输出虚假、错误信息导致的损害，其根植于生成式人工智能“概率预测”的技术本质，即基于大语言模型的统计模式预测生成内容，而非对事实进行核查验证。因此，与一般生成式人工智能侵权如生成内容侵犯他人著作权等相比，其更依赖于后台设定关键词对幻觉侵权内容的发现。当然，是否构成著作权侵权往往需要专业人士进行判断，但对于生成的高风险敏感类信息如“某知名作家曾因诈骗服刑”等往往可通过简单网络搜索而判断真伪。

为此，笔者认为应构建差异化动态责任体系的理论框架，实现生成式人工智能幻觉侵权规制理念的根本转向：在鼓励发展与合理规制这一利益平衡基础上，确立以过错责任为基础、过错推定责任补充适用的二元归责结构，构建分层级的注意义务标准，同时创设关键词触发人工审核等事前预防机制，并辅以技术标准、合规认证等配套制度。差异化动态责任体系理论包含两个核心维度：一是“差异化”，即根据生成式人工智能的技术架构和不同应用场景的风险等级，配置差异化的规制手段；二是“动态”，在明确注意义务基本标准的前提下，根据技术发展阶段、服务提供者的技术能力和具体情境，对注意义务标准适用和责任边界进行动态调整。差异化动态责任体系与奥地利法学家瓦尔特·维尔伯格（Walter Wilburg）提出的“动态系统论”具有相似之处。瓦尔特·维尔伯格指出：“法律科学必须通过对法律进行更为动态的构造以及弹性规范的发展来克服。”“动态系统论”摒弃了全有或全无的效果模式，提出以弹性的办法替代全有或全无规则，避免要素的僵化适用，核心包含“要素的提取与协动”和“基础评价与原则性示范”，在对注意义务标准进行判断时，同样应对各法律要素进行具体评价，继而对是否符合注意义务标准以及相关责任边界进行判断。

（一）利益平衡的理念：鼓励发展与合理规制的协调

生成式人工智能幻觉侵权规制的终极目标，是在鼓励发展与保障用户权益之间寻求利益平衡，而差异化动态责任体系理论正是为了实现这一任务。

其一，坚持“鼓励发展”的优先取向。生成式人工智能是引领新一轮科技革命和产业变革的战略性技术，具有“头雁”效应。我国在该领域已形成一定的技术与产业基础，应持续巩固并扩大这一竞争优势。侵权规制应采取创新友好型立场，避免严格责任原则的一体化适用，防止因过度规制从而抑制创新活力。对于通用人工智能系统与基础模型，应在合理限度内赋予责任豁免空间，对行业内创新型中小企业则应着力降低其合规成本，避免合规负担不当加重。

其二，确立“合理规制”的底线思维。鼓励发展并不意味着放任风险，生成式人工智能幻觉问题若得不到有效治理，将损害用户权益、侵蚀社会信任，进而阻碍产业健康发展。合理规制要求规制手段应与风险等级相匹配，对于高风险场景严格规制，对于低风险场景宽松规制。同时，规制标准应与技术发展阶段相适应，遵循比例原则，伴随技术成熟度的提升而渐进式提高。

其三，建立“动态调整”的弹性机制。面对技术的快速迭代，侵权规制须保持适度的调适性与前瞻性。建议每两年对生成式人工智能幻觉侵权规制措施的实施效果开展系统性评估，建立以技术发展与实践反馈为依据的调适机制。同时，探索设立“生成式人工智能监管沙盒”，允许划定特定区域，合理设定特定条件，以使生成式人工智能服务提供者在受控环境中测试新的安全技术和商业模式，为创新预留空间。

（二）归责原则的厘定：过错责任为基础、过错推定为补充

在归责原则的选择上，笔者主张以过错责任原则为基础，但在特定情形下引入过错推定原则作为补充，构建“二元归责体系”。

首先，应坚持将过错责任原则作为一般归责原则。之所以坚持适用过错责任原则作为一般归责原则，主要原因是，从侵权行为的性质而言，生成式人工智能引发的侵权形态与一般侵权没有本质上的差异。从现行法规制视角，应当根据《民法典》1165条第1款确立的一般侵权责任适用过错责任原则，且司法实践中也坚持过错责任原则来进行归责判断。从与其他归责原则比较来看，过错责任原则是当下符合现行法律规定且最便宜的归责原则。此外，生成式人工智能服务提供者对模型生成的内容并不具备完全控制能力，其技术特性决定了无法像传统内容生产方式那样实现精准、全面的事前把控与结果预设。当前技术条件下，生成式人工智能服务提供者仅能通过设置关键词屏蔽、内容过滤等有限手段对部分违法违规或不当信息的输入与输出进行约束，难以从根本上杜绝不当内容的产生。在此技术背景下，若直接对生成式人工智能服务提供者适用无过错责任原则，不仅与其实际控制能力和技术现状不相匹配，而且忽视了人工智能生成内容的独特性，过度加重生成式人工智能服务提供者的责任负担，缺乏足够的法理基础与现实正当性。且服务提供者并非危险源的开启者，用户主动选择使用生成式人工智能服务并输入提示词，服务提供者仅提供技术工具，也不符合危险责任的适用前提。至于过错责任说面临的“过错认定困难”这一核心困境，笔者认为应重构注意义务标准，同时创设关键词触发人工审核机制，辅以技术标准与合规认证等配套制度，并在特定情形下引入过错推定责任，来应对“过错认定困难”这一难题，对此将在下文展开叙述。

至于在何种特定情形下引入过错推定责任，笔者认为，过错推定责任的适用场域可主要涵盖以下两类：第一，涉及高风险应用场景的生成式人工智能侵权。在风险程度显著提升、注意义务相应加重的场景下，将举证负担转移至更具风险控制能力与成本分散能力的一方，符合实质正义与比例原则。比如当人工智能被运用于医疗诊断、金融风控、司法裁判等对公民生命健康、财产权利或基本权益具有重大影响的领域时，一旦因模型幻觉输出错误信息并引发损害，受害者往往难以进入技术黑箱、回溯决策链条以证明服务提供者存在过错。此时若固守“谁主张谁举证”的一般规则，将导致受害人因举证不能而救济无门，亦有违风险与收益相一致的法理逻辑。第二，服务提供者未履行法定的程序性合规义务。现行规范对生成式人工智能服务设定了包括算法备案、安全评估、标识义务等在内的程序性要求，若服务提供者违反此类程序性规定，便已构成对法定义务的客观违反，此时若再要求受害人举证其存在主观过错，既缺乏效率，亦削弱了程序性规范的约束力。在此情形下引入过错推定，意味着将证明自身已尽合理注意义务的责任转移至服务提供者，既可强化合规激励，亦能避免因程序瑕疵与技术黑箱叠加而导致的救济真空。

最后，应扩大“发展风险抗辩”机制的应用领域，为生成式人工智能服务提供者设定合理的责任豁免空间。在生成式人工智能语境下，该抗辩事由的成立须满足以下构成要件：第一，风险告知与信息披露层面，服务提供者应通过用户协议、使用说明等方式对人工智能生成内容的潜在错误概率、适用边界及使用风险给出充分且明确的提示，以尽到警示义务；第二，因果关系的客观归因层面，须证明AI幻觉的产生源于技术发展的阶段性局限，而非服务提供者未履行与其能力相匹配的注意义务；第三，注意义务的履行层面，服务提供者须举证其在模型研发、数据筛选、内容监测等环节已采取当时技术条件下所能采取的所有合理预防措施，即达到“理性人”标准在科技领域的客观化要求。只有符合上述构成要件，方可减轻服务提供者的侵权责任。

（三）注意义务的重构：分层动态体系的构建

针对当前注意义务标准模糊的问题，笔者主张构建分层动态体系，根据服务提供者在技术链条中的位置和控制能力，设定差异化的注意义务内容。

第一层级是基础模型开发者的“源头控制义务”。基础模型开发者对模型架构设计、训练数据选择、算法参数设置具有完全控制力，是AI幻觉风险的源头控制者。其注意义务应包括：其一，训练数据合规审查义务，确保训练数据的准确性、完整性和多样性，建立数据清洗和偏见消除机制；其二，模型安全合规设计义务，在模型架构层面嵌入安全对齐机制，通过人类反馈强化学习（Reinforcement Learning from Human Feedback，RLHF）等技术减少幻觉发生概率；其三，风险评估与充分披露义务，在模型发布前进行全面的安全评估，披露模型的局限性、潜在风险和适用场景限制；其四，动态监测与迭代优化义务，建立模型运行监测机制，及时发现并修复导致幻觉的技术缺陷。

第二层级是专业模型训练者的“优化调适义务”。专业模型训练者在基础模型的基础上进行领域化微调，其注意义务应包括：其一，数据审核义务，确保训练数据的专业性和准确性；其二，对齐微调义务，通过领域特定的强化学习，使模型输出符合行业规范和专业知识；其三，生成内容校验过滤义务，建立针对专业领域的敏感词库和过滤机制，拦截明显错误的生成内容；其四，应用场景适配评估义务，评估模型在特定应用场景下的可靠性，设定适用的边界条件。

第三层级是服务应用提供者的“交互管理义务”。服务应用提供者直接面向终端用户，是用户接触人工智能服务的界面，其注意义务应包括：其一，生成内容标识义务，以清晰、易懂的方式告知用户人工智能生成内容的性质和不可信风险；其二，关键词过滤义务，建立敏感词库，对用户输入和人工智能输出进行实时监测，拦截违法不良信息；其三，人工审核义务，对高风险关键词触发的生成内容实施人工复核；其四，投诉处理义务，建立便捷的用户投诉渠道，对涉嫌侵权的生成内容及时采取删除、屏蔽等措施，同时设定必要机制，防止在用户投诉后过一段时间仍然生成相同的幻觉内容。

这一分层体系的“动态性”体现在，注意义务的具体内容和强度应根据技术发展阶段、服务提供者的规模和资源、应用场景的风险等级等因素动态调整。一是注意义务的具体内容和强度应根据技术发展阶段进行调整。当前全球正处人工智能高速发展期，中、美、欧引领技术竞赛，各国竞相布局算力与人才，此时政策层面应积极扶持人工智能产业的发展，不应过多借鉴欧盟的严格监管模式从而限制人工智能产业发展，这也与杭州互联网法院审理全国首例AI幻觉侵权案件的思路基本一致，因此在对平台是否履行注意义务内容的判断时应尽可能放宽。待后续人工智能产业发展相对成熟后，再对平台是否履行注意义务内容的判断适时收紧。二是注意义务的具体内容和强度应根据服务提供者的规模和资源进行调整。通常而言，对于通用大模型这类人工智能应用平台，其往往具备更强的技术能力来应对人工智能幻觉侵权风险，且这类人工智能应用平台造成的幻觉侵权后果要比一般的人工智能应用平台造成的侵权后果严重得多，因此在考量这类人工智能应用平台是否履行注意义务时，应采取相对严格的判断方法。在司法实践中，可通过采用“技术调查官”等制度，由技术调查官推断该类人工智能应用平台是否拥有技术手段以履行注意义务，如若判断本可通过技术手段实现注意义务而未应用该技术手段或放任幻觉侵权结果的发生，此时应判断这类人工智能应用平台未履行注意义务。相反，对于一般的人工智能应用平台，司法实践中应主要考察其是否有设定相应的制度辅以技术手段来履行注意义务，而对于注意义务履行的程度在判断时可适当放宽。三是要区分应用场景的风险等级判断注意义务的具体内容和强度。对于涉及“医疗诊断”“投资建议”“司法判决”“企业或个人名誉”等高风险应用场景的人工智能应用平台，一旦产生幻觉侵权，往往容易造成非常严重的损害后果，对该类高风险应用场景的人工智能应用平台，司法实践中应采更严格的注意义务判断标准。相反，对于其他非高风险应用场景的人工智能应用平台，司法实践中对注意义务的判断标准可适当放宽。

（四）预防机制的创设：关键词触发人工审核机制

在注意义务标准设定中，要特别注重关键词过滤以及配套的人工审核，因为这是直接关系到用户权益保护能否得到立即且有效保障的立竿见影的举措。为此，笔者建议应构建“关键词触发人工审核”机制，该机制具体设计如下。

其一，关键词库的分类构建。服务提供者应建立多层级关键词库：第一，绝对禁止类关键词，包括法律法规明确禁止的违法信息（如涉及恐怖主义、极端主义、虚假诈骗信息等），对此类关键词应实施技术拦截，禁止生成任何相关内容；第二，高风险敏感类关键词，包括涉及人身安全、重大财产利益、公共利益、他人名誉权等高风险领域的词汇（如涉及“医疗诊断”“投资建议”“司法判决”“企业或个人名誉”等），对此类关键词触发的生成内容应实施人工审核；第三，一般敏感类关键词，包括可能引发争议或误导的信息类别，对此类关键词应加强技术监测，必要时实施人工复核。

其二，人工审核的实施机制。对于绝对禁止类关键词，应由服务提供者通过技术手段加以拦截，但同样需要构建专门团队定期抽样筛查；对于高风险敏感类关键词触发的生成内容，服务提供者应在技术生成后、向用户展示前，实施后台人工审核，审核人员应具备相应的专业知识，能够判断生成内容的准确性和合规性。同时审核应在合理时间内完成，避免过度延迟影响用户体验，对于审核发现的错误内容，应及时修正或拦截，并反馈至模型训练环节，持续优化模型性能。对于用户通过投诉手段要求平台下架的幻觉信息，应尽早核查信息的真伪，确认属幻觉信息应及时下架并记录于后台同时反馈至模型训练，以免幻觉信息重复出现。

其三，审核义务的边界设定。人工审核义务并非无限，应设定合理的边界：第一，技术可行性边界，对于海量用户同时请求的场景，可采取抽样审核或重点审核相结合的方式；第二，成本收益边界，审核成本应与风险等级相匹配，避免过度审核导致服务无法持续，需与生成式人工智能平台自身的规模和资源相匹配；第三，过错认定边界，若服务提供者已建立并运行了合理的关键词过滤和人工审核机制，即使仍出现AI幻觉，也应认定其已尽到合理注意义务，除非受害人能够证明审核机制存在明显缺陷。

其四，建立必要的指南或标准。建议由人工智能行业协会或相关组织牵头制定《生成式人工智能关键词过滤与人工审核指南》，明确关键词分类标准、审核流程、人员资质要求、记录保存期限等技术规范，为服务提供者提供技术指引。通过行业自律与法律规制的协同，提升整体保护水平。

（五）辅以配套的制度：技术标准与合规认证

生成式人工智能幻觉侵权规制不能仅依赖侵权责任法的事后救济，还需辅以必要的配套制度，形成“法律规制+技术治理+行业自律”的协同治理格局。

其一，建立生成式人工智能安全评估与备案制度。对提供生成式人工智能服务的主体实施差异化管理。对于具有舆论属性或社会动员能力的服务，应强制要求服务提供者在上线前完成安全评估并向网信部门备案；对于高风险领域（如涉及“医疗诊断”“投资建议”“司法判决”“企业或个人名誉”等）的专用模型，应参照欧盟《人工智能法案》提高评估标准。安全评估应重点关注模型的幻觉发生概率、错误信息类型、潜在风险场景等指标。

其二，制定生成式人工智能幻觉防控技术标准。建议由标准化管理部门会同行业主管部门，制定《生成式人工智能幻觉防控技术指南》等国家标准或行业标准，明确以下技术规范：第一，训练数据质量标准，包括数据来源的可靠性、数据清洗的流程、偏见消除的方法等；第二，模型安全设计要求，包括对齐微调的技术规范、人类反馈强化学习的实施标准等；第三，输出过滤技术要求，包括关键词过滤的准确率、人工审核的覆盖率、响应时间限制等；第四，用户风险提示规范，包括标识的方式、位置、内容要求等。

其三，推动行业自律与协同治理。支持行业协会牵头制定AI幻觉防控自律公约，明确行业主体的行为准则与责任边界，建立健全行业内部纠纷调解机制。鼓励AI服务提供者共享幻觉生成案例、防控技术与实践经验，联合搭建行业专属的AI幻觉信息数据库，为风险预判与精准防控提供数据支撑。同时，推动产学研深度协同，支持高校、科研机构聚焦AI幻觉防控核心技术与侵权规制难点开展专项研究，破解技术防控与法律适用的衔接难题，为AI幻觉侵权规制提供坚实的技术支撑与理论依据。

六、结语

生成式人工智能幻觉侵权规制是人工智能法治建设的重要议题。2026年杭州互联网法院审结的AI幻觉侵权案，从司法层面明确了人工智能服务提供者的责任边界，为后续立法和司法提供了重要指引。然而，该案也暴露出当前侵权规制手段的不足，如存在归责原则分歧、注意义务标准模糊、预防机制缺位等。笔者在系统梳理过错责任说、无过错责任说、过错推定说、产品责任说、独立责任说等理论的基础上，通过比较研究欧盟、美国、日本的人工智能监管经验，评析了各学说的理论贡献与实践局限，提出应构建差异化动态责任体系，旨在为当前的法律实践提供理论支撑，同时也为未来的法律变革预留空间。未来，随着技术的进一步发展，特别是向通用人工智能的演进，法律规制将面临更多的挑战。强人工智能时代的法律主体资格、自主决策责任、人机关系等问题，需要法学界持续关注和深入研究。

作者：邓文（上海社会科学院法学研究所助理研究员、法学博士）

来源：《政治与法律》2026年第6期“争鸣园地”栏目。因篇幅较长，已略去原文注释。