一句话定义：生成式人工智能是指具有文本、图片、音频、视频等内容生成能力的模型及相关技术。它带来三类彼此独立的法律问题：输入端（训练数据用了别人的个人信息与作品）、输出端（生成内容可能侵权、泄密或者误导公众）、结果端（生成物能不能受保护、出了事由谁负责）。三端适用不同的规则，混在一起谈，很容易得出「要么全合法、要么全违法」的错误结论。
本词条属于网络与数据栏目。实务中最需要纠正的三个直觉：以为「网上公开的东西可以随便拿来训练」；以为「生成的内容是机器写的，所以没人负责」；以为「我付了钱，生成的东西版权就是我的」。三个直觉各自对应一条可以用来判断的具体规则，而不是一句抽象的原则。
构成要件
一、输入端第一问：训练数据里的个人信息，靠什么合法性基础。处理个人信息必须有第十三条列明的合法性基础之一。训练场景常见的误判是「数据已经公开，所以不需要基础」——第二十七条给的是一条有限通道：可以在合理范围内处理个人自行公开或者其他已经合法公开的个人信息，但有两个限制：个人明确拒绝的除外；处理已公开的个人信息对个人权益有重大影响的，应当取得个人同意。「明确拒绝」包括事前的声明（如网页上的禁止抓取声明、爬虫排除协议之外的明确意思表示）与事后的拒绝；「重大影响」在训练场景中要具体判断：把公开的肖像、发言、行为记录汇集成模型，可能产生的骚扰、画像、身份关联，都可能构成重大影响。结论是：公开不等于免费，也不等于可以无限制地用于训练。
二、输入端第二问：涉及敏感个人信息的，门槛高一档。生物识别、医疗健康、金融账户、行踪轨迹等属于敏感个人信息，需要特定的目的、充分的必要性、严格的保护措施，并取得单独同意。训练数据里最常见的高风险内容是：人脸照片、声纹录音、病历文本、定位轨迹。这些内容一旦进入训练集，很难单独删除，因此合规成本最高、事后补救最难。实务上的建议是「训练前筛查，而不是训练后删除」。
三、输入端第三问：训练用了别人的作品，落在著作权法的哪一格。著作权法第二十四条列了十三项可以不经许可、不支付报酬的合理使用情形，其中没有「用于训练模型」这一项。这意味着不能直接套用某一条把训练行为整体合法化。争点集中在两处：训练过程中的复制是否构成对复制权的行使；如果构成，能否通过「不影响作品正常使用、不不合理损害权利人合法权益」的一般判断获得解释空间。这个问题目前没有统一的立法结论，司法实践仍在发展中，本词条不给结论。可以确定的是三件事：明知是侵权素材仍然抓取使用，风险最高；仅使用他人明确放弃权利或者开放许可的素材，风险最低；商业规模使用与个人研究使用，风险等级不同。
四、输入端第四问：数据从哪来，这一层常被忽略但最容易出问题。自行抓取、向第三方购买、用户上传，三种来源的审查要点不同。自行抓取要看过不过反不正当竞争与网站规则的边界；向第三方购买要看对方有没有权利基础、合同有没有约定可用范围与责任分担；用户上传要看用户协议有没有取得授权、有没有对违法内容的处置机制。「供应商承诺已获授权」只在双方之间有效，对权利人、对个人都不产生效力。
五、输出端第一问：生成内容与已有作品实质性相似，构成侵权。判断框架是「接触 + 实质性相似」：接触看该作品是否在训练数据中或者为模型可及；实质性相似看表达层面的重合程度，而不是思想、风格、题材的相似。实务中的难点在举证：权利人往往拿不到训练数据清单。可行的路径是要求服务提供者说明训练数据来源（在诉讼中通过法院调取），以及用「输入特定提示词即稳定输出该作品」来证明模型对该作品存在记忆。
六、输出端第二问：生成内容泄露个人信息，责任在处理者。模型的「记忆效应」可能导致输出中包含训练数据里的真实个人信息（姓名、电话、住址、病历片段）。一旦输出，就构成一次新的个人信息处理，处理者要为其合法性负责。这一点常被误解为「模型自己吐出来的，不是我们收集的」——但输出的源头仍是处理者的训练与生成行为。防范措施包括：训练数据去重与脱敏、输出端过滤、对高风险字段做拦截、建立用户举报与回溯机制。
七、输出端第三问：生成内容侵害名誉权、肖像权，与深度合成适用同一套人格权规则。生成内容如果指向特定自然人且造成社会评价降低，可能构成名誉权侵害；生成与他人肖像高度相似的形象并公开，可能构成肖像权侵害。AI 换脸、AI 拟声这类「以真实素材为基础合成」的形态，另按深度合成的规则处理，与本词条关注的「生成新内容」不是同一套判断。这一层区分决定了抗辩方向：深度合成场景的核心抗辩是「有没有取得同意」，生成内容场景的核心抗辩往往在「有没有指向特定人」。
八、结果端：生成物能不能受著作权保护，看人的智力投入。著作权法第三条把作品定义为「文学、艺术和科学领域内具有独创性并能以一定形式表现的智力成果」。判断框架是三步：有没有人的智力投入（提示词设计、多轮调整、素材编排、后期修改）；投入是否体现在最终表达上（而不是仅体现在「提出了需求」）；表达是否具有独创性。三个问题都答「是」，主张构成作品的空间较大；只答第一个，争议很大。这个问题在司法实践中存在分歧，本词条不给统一结论，可以确定的是：纯粹「输入一句话、直接输出」的情形，主张著作权的难度很高。
九、服务提供者的义务是一整套，不是一条。至少包括：告知（处理目的、方式、种类，第十七条）；影响评估（涉及敏感个人信息或者自动化决策的，第五十五条）；内容安全（不得生成违法内容、建立投诉与处置机制）；标识（对生成合成内容添加标识，不得删除、篡改）；未成年人保护（防沉迷、内容分级）。这些义务的共性是「面向不特定用户的持续义务」，不是一次性备案就能完成的。
十、使用者不是旁观者，商业使用要自担风险。用生成内容做商业宣传、对外发布、作为合同履行标的，使用者要自行确认不侵害他人权利。「这是 AI 生成的」不构成抗辩：对外发布的主体是人或者企业，责任也落在人或者企业。实务中风险最高的三类用法：用生成图片做商品主图（可能与他人在先作品相似）；用生成文案做广告（可能构成虚假宣传）；用生成内容做法律、医疗等专业意见（可能构成误导）。
法条依据
- 《中华人民共和国个人信息保护法》第二十七条个人信息处理者可以在合理的范围内处理个人自行公开或者其他已经合法公开的个人信息；个人明确拒绝的除外。个人信息处理者处理已公开的个人信息，对个人权益有重大影响的，应当依照本法规定取得个人同意。
- 《中华人民共和国个人信息保护法》第十三条符合下列情形之一的，个人信息处理者方可处理个人信息：
- （一）取得个人的同意；
- （二）为订立、履行个人作为一方当事人的合同所必需，或者按照依法制定的劳动规章制度和依法签订的集体合同实施人力资源管理所必需；
- （三）为履行法定职责或者法定义务所必需；
- （四）为应对突发公共卫生事件，或者紧急情况下为保护自然人的生命健康和财产安全所必需；
- （五）为公共利益实施新闻报道、舆论监督等行为，在合理的范围内处理个人信息；
- （六）依照本法规定在合理的范围内处理个人自行公开或者其他已经合法公开的个人信息；
- （七）法律、行政法规规定的其他情形。
- 依照本法其他有关规定，处理个人信息应当取得个人同意，但是有前款第二项至第七项规定情形的，不需取得个人同意。
- 《中华人民共和国个人信息保护法》第十七条个人信息处理者在处理个人信息前，应当以显著方式、清晰易懂的语言真实、准确、完整地向个人告知下列事项：
- （一）个人信息处理者的名称或者姓名和联系方式；
- （二）个人信息的处理目的、处理方式，处理的个人信息种类、保存期限；
- （三）个人行使本法规定权利的方式和程序；
- （四）法律、行政法规规定应当告知的其他事项。
- 前款规定事项发生变更的，应当将变更部分告知个人。
- 个人信息处理者通过制定个人信息处理规则的方式告知第一款规定事项的，处理规则应当公开，并且便于查阅和保存。
- 《中华人民共和国个人信息保护法》第五十五条有下列情形之一的，个人信息处理者应当事前进行个人信息保护影响评估，并对处理情况进行记录：
- （一）处理敏感个人信息；
- （二）利用个人信息进行自动化决策；
- （三）委托处理个人信息、向其他个人信息处理者提供个人信息、公开个人信息；
- （四）向境外提供个人信息；
- （五）其他对个人权益有重大影响的个人信息处理活动。
- 《中华人民共和国著作权法》第三条本法所称的作品，是指文学、艺术和科学领域内具有独创性并能以一定形式表现的智力成果，包括：
- （一）文字作品；
- （二）口述作品；
- （三）音乐、戏剧、曲艺、舞蹈、杂技艺术作品；
- （四）美术、建筑作品；
- （五）摄影作品；
- （六）视听作品；
- （七）工程设计图、产品设计图、地图、示意图等图形作品和模型作品；
- （八）计算机软件；
- （九）符合作品特征的其他智力成果。
- 《中华人民共和国著作权法》第二十四条在下列情况下使用作品，可以不经著作权人许可，不向其支付报酬，但应当指明作者姓名或者名称、作品名称，并且不得影响该作品的正常使用，也不得不合理地损害著作权人的合法权益：
- （一）为个人学习、研究或者欣赏，使用他人已经发表的作品；
- （二）为介绍、评论某一作品或者说明某一问题，在作品中适当引用他人已经发表的作品；
- （三）为报道新闻，在报纸、期刊、广播电台、电视台等媒体中不可避免地再现或者引用已经发表的作品；
- （四）报纸、期刊、广播电台、电视台等媒体刊登或者播放其他报纸、期刊、广播电台、电视台等媒体已经发表的关于政治、经济、宗教问题的时事性文章，但著作权人声明不许刊登、播放的除外；
- （五）报纸、期刊、广播电台、电视台等媒体刊登或者播放在公众集会上发表的讲话，但作者声明不许刊登、播放的除外；
- （六）为学校课堂教学或者科学研究，翻译、改编、汇编、播放或者少量复制已经发表的作品，供教学或者科研人员使用，但不得出版发行；
- （七）国家机关为执行公务在合理范围内使用已经发表的作品；
- （八）图书馆、档案馆、纪念馆、博物馆、美术馆、文化馆等为陈列或者保存版本的需要，复制本馆收藏的作品；
- （九）免费表演已经发表的作品，该表演未向公众收取费用，也未向表演者支付报酬，且不以营利为目的；
- （十）对设置或者陈列在公共场所的艺术作品进行临摹、绘画、摄影、录像；
- （十一）将中国公民、法人或者非法人组织已经发表的以国家通用语言文字创作的作品翻译成少数民族语言文字作品在国内出版发行；
- （十二）以阅读障碍者能够感知的无障碍方式向其提供已经发表的作品；
- （十三）法律、行政法规规定的其他情形。
- 前款规定适用于对与著作权有关的权利的限制。
- 《中华人民共和国个人信息保护法》第六十六条违反本法规定处理个人信息，或者处理个人信息未履行本法规定的个人信息保护义务的，由履行个人信息保护职责的部门责令改正，给予警告，没收违法所得，对违法处理个人信息的应用程序，责令暂停或者终止提供服务；拒不改正的，并处一百万元以下罚款；对直接负责的主管人员和其他直接责任人员处一万元以上十万元以下罚款。
- 有前款规定的违法行为，情节严重的，由省级以上履行个人信息保护职责的部门责令改正，没收违法所得，并处五千万元以下或者上一年度营业额百分之五以下罚款，并可以责令暂停相关业务或者停业整顿、通报有关主管部门吊销相关业务许可或者吊销营业执照；对直接负责的主管人员和其他直接责任人员处十万元以上一百万元以下罚款，并可以决定禁止其在一定期限内担任相关企业的董事、监事、高级管理人员和个人信息保护负责人。
法条核对日期：2026 年 10 月 27 日。
★版本提示：《中华人民共和国个人信息保护法》为 2021 年 8 月 20 日公布、2021 年 11 月 1 日施行；《中华人民共和国著作权法》按 2020 年 11 月 11 日修正、2021 年 6 月 1 日施行的版本核对。本词条条文按上述现行文本逐字核对。另，《中华人民共和国网络安全法》已于 2025 年 10 月 28 日修正、自 2026 年 1 月 1 日起施行，本词条未直接引用其条号。
★缺口提示：本词条涉及但本地法规库未收录的规范性文件包括《生成式人工智能服务管理暂行办法》《互联网信息服务深度合成管理规定》《互联网信息服务算法推荐管理规定》，以及关于生成合成内容标识的强制性国家标准与配套办法。上述文件只在正文中提及名称与制度要求，不引条号、不复述条文内容。另需注意：「训练数据使用他人作品是否构成合理使用」「生成物是否构成作品」两个问题，目前没有统一的立法结论，司法实践存在分歧，本词条只给判断框架，不给结论。
★口径提示：① 公开的个人信息不等于可以免费使用，第二十七条有「明确拒绝除外」与「重大影响需同意」两道限制。② 著作权法第二十四条的合理使用清单中没有「训练」，不能直接套用某一条整体合法化。③ 生成内容泄露个人信息，责任在处理者，不因「模型自己吐出来的」而免除。④ AI 换脸、拟声属深度合成，适用另一套规则，与本词条关注的生成新内容不同。⑤ 「这是 AI 生成的」不构成使用者抗辩。
与相邻概念的区别
第一，与深度合成的区别。见前述第七项。一句话概括：深度合成是「以真人素材为本」，风险直接指向特定个人；生成式人工智能是「生成新内容」，风险更多指向内容真实性与知识产权。两者的监管规定不同、判断落点不同，但个人信息保护与内容标识的要求是相通的。实操中容易混的情形是「用生成模型做一个明星的虚拟形象」——既有生成的一面，也有指向特定人的一面，此时应当按更严的标准处理：既要做内容标识，也要处理肖像权与个人信息。
第二，与「搜索引擎」的区别。搜索引擎抓取网页并展示摘要，通常可以援引合理使用或者避风港规则；生成模型把作品「学进去」再「生成出来」，输出的是新的表达，不能简单套用搜索的免责逻辑。这个区别解释了为什么「网页公开可见」不能成为训练的当然理由——公开可见解决的是「能不能看」，不等于「能不能用来训练并对外生成」。
第三，与「数据分析」的区别。数据分析（统计、聚类、趋势研判）通常不产生新的表达，输出的多是汇总性结论；生成模型输出的是具体表达。两者在著作权法上的评价不同：前者更接近事实性使用，后者可能构成复制与改编。在个人信息保护上也有差别：数据分析如果做到匿名化，可能不再属于个人信息处理；生成模型往往需要保留与具体个人的关联能力，难以主张匿名化。
第四，与「用户生成内容」的区别。用户生成内容的责任主体是用户，平台承担通知处置义务；生成式人工智能的输出由模型产生，服务提供者对输出承担更重的义务（内容安全、标识、过滤）。但使用者的责任不能被免除：对外发布、商业使用仍然是使用者自己的行为。两层责任并行，不能互相推。
第五，与「开源模型」的区别。开源改变的是分发方式，不改变法律责任。开源模型的提供者仍要履行告知、标识、投诉处置等义务；下游使用者在其应用场景中承担自己那一份责任。「开源所以免责」在现行法下没有依据；能主张的是「已在合理范围内履行了提示与限制义务」，属于减责情节。
第六，与「自动化决策」的区别。自动化决策是「对具体个人作出或者辅助作出决定」，落点在第二十四条（透明、公平、可说明、可要求人工介入）；生成式人工智能是「生成内容」，落点在内容合法性与权利归属。两者可能交叉：用生成模型给求职者写评估意见并据此筛人，就同时涉及两条规则。遇到交叉情形，两条线都要过。
实操指引
第一步，企业用作训练数据前，先做三张表。数据来源表（自采、采购、用户上传，分别标注权利基础）；个人信息表（是否含个人信息、是否含敏感个人信息、是否已取得同意或者符合第二十七条）；作品清单（是否在保护期、是否开放许可、是否有明确禁止声明）。三张表做完，能不能用、用到什么程度，基本就有答案了。
第二步，把「不愿被训练」的通道做出来。第二十七条给了个人「明确拒绝」的权利，技术上要有承接机制：显著的拒绝入口、可核验的记录、拒绝后停止处理并删除的流程。没有这个通道，一旦有人主张拒绝而企业无法证明已停止，举证会很被动。
第三步，输出端做三道过滤。一是个人信息过滤（姓名、电话、身份证号、住址、病历片段）；二是与他人作品实质性相似的比对（对高风险提示词做定向检测）；三是违法内容拦截。三道过滤都要留日志，因为发生争议时，「有没有采取措施」比「措施是否完美」更重要。
第四步，把标识做成产品能力而不是事后补丁。生成合成内容的标识要嵌入生成流程，用户不能一键去除；对外提供接口的，要在返回结果中携带标识信息。「只在页面上写一句免责声明」不构成标识。
第五步，使用者一侧先做权利尽调再商用。商业使用前问四句：这个内容会不会与他人在先作品相似；有没有指向特定自然人；有没有使用他人的商标、字号、包装；内容本身是否真实、有没有误导。四个问题里有一个答「不确定」，就应当做人工复核或者替换方案。涉及人格权的判断，可参考名誉权、肖像权与隐私的分类说明。
第六步，出了争议先分清在哪一端。输入端争议（训练数据来源）通常由权利人或者个人发起；输出端争议（生成内容侵权、泄密）通常由被侵权人发起；结果端争议（生成物归属）通常发生在合作方之间。三端的证据清单完全不同：输入端要数据来源与授权链；输出端要生成记录与过滤日志；结果端要创作过程与人的投入记录。证据固定方法可参照个人信息被侵害：要收集哪些证据？的清单。