AI生成内容必须标注标识吗?答案是要标,但不是所有人都在同一个位置上标。做换脸、拟声、代写工具的一方,要在内容生成的那一刻就把标识嵌进去;把内容传出去的平台,要核验、要提示、要对疑似没标的内容动手;每一个按下发布键的人,要为自己发出去的那一条负责。三层缺任何一层,另外两层都补不上。

⁠​‌​‌​​‌​‌‌‌​‌​‌​‌‌‌​​​​​‌​‌‌​‌‌​​​‌​​‌‌​‌​‌​‌‌​​⁠

还有一个更容易混的点:标识解决的是「让人知道这是合成的」,不解决「你有没有权利合成」。给一段换脸视频打上角标,不等于拿到了当事人的同意;拿到了同意,该标的还是得标。不少人吃亏不是因为没标,而是以为标了就没事。

关键结论
  • 能要什么:要求侵权人停止使用、删除内容、断开链接、赔礼道歉、赔偿损失;要求平台核验、提示、处置并书面答复;涉及诈骗的,报警追损。
  • 找谁要:先找生成工具方(标识的第一责任人),再找传播平台(核验与处置义务),最后找发布者本人;平台不处理的,向网信部门举报并按通知→删除规则起诉平台。
  • 怎么办:发布前问六句、被冒充后做四步;四步是录屏带账号主页与时间、保存原始文件、做时间戳或公证、向平台书面调证;三条维权路可以同时走。

一、两类标识:看得见的和藏在文件里的

结论:显式标识是给人看的,隐式标识是给机器和平台看的;同一份内容上两层都得有,不能拿一层顶另一层。

显式标识,是用户不点任何东西、光看光听就能感知到的提示,载体是文字、图形、声音、画面元素。日常见到的有四种:短视频画面角上常驻的「AI生成」小字或图标;AI 配音开头那句「以下内容由人工智能合成语音播报」;图片右下角的半透明水印;直播间画面里一直挂着的提示条,而不是开场说一句就撤。

判断显式标识做没做到,只看三个字:看得见。位置适当、字号能看清、停留时间够。缩到指甲盖大小、藏在进度条底下、只在简介最末尾写一行,都等于没标。

隐式标识,是藏在文件里的信息,不点开属性根本看不见,载体是文件元数据、数字水印这类东西。存下来的视频,属性里可能带着生成工具名称与生成时间;导出的图片,文件头里可能写着产出方式;平台侧还可能有肉眼完全看不见的溯源水印。

两层各管一段。显式标识管「当下看的人知不知道」,隐式标识管「内容被下载、搬运、转到别的平台之后还认不认得出源头」。搬运的人第一件事就是裁角标、剪掉开头那句提示,显式标识因此最先消失,隐式标识反而可能留在文件里。

两个损耗点要记住:截图、裁剪、转码、压缩,容易把文件里的信息洗掉;二次上传时裁角标、剪提示,是最典型的规避手法。刻意去除标识和「忘了标」不是一回事,前者性质更重,见技术措施与权利管理信息,概念背景看深度合成与技术措施两个词条。

二、谁要标:三层责任,不能互相顶替

结论:第一责任人是生成合成服务的提供者,第二层是传播平台,第三层是每一个把内容发出去的人;三层义务各自独立,谁也不能用「我只是转发」把自己摘干净。

工具方那一层最硬。生成那一刻就要在内容本体加显式标识、在文件里写隐式标识;提供下载、复制、导出、二次编辑功能时,要保证标识跟着走,不能一导出就掉;也不得提供去除标识的功能。这一层最常见的抗辩是「我们只是技术中立」,但标识是产品设计的一部分,不是内容判断,中立说不过去。一般原理见生成式人工智能词条,出事谁担责见AI生成的文章、图片、视频侵犯他人权益,谁来担责。

平台那一层是三件事:核验,对上传内容做识别;提示,对疑似合成内容向看的人加一句说明;处置,对确认没标的限流、下架、断开链接。三件事对应三种失职。

用户那一层最容易被忽略。转发、二创、加字幕再发、拿去商用,在法律上都算「发布」。不知道是合成的,不当然免责;明知是合成的还去掉标识再发,性质更重。

这里必须把两条线分开:标识义务和授权是两回事。标了,只代表你告诉了别人这是合成的;用别人的脸、别人的声音,还得另行取得同意。

法条依据
  • 《中华人民共和国民法典》第一千零一十九条任何组织或者个人不得以丑化、污损,或者利用信息技术手段伪造等方式侵害他人的肖像权。未经肖像权人同意,不得制作、使用、公开肖像权人的肖像,但是法律另有规定的除外。未经肖像权人同意,肖像作品权利人不得以发表、复制、发行、出租、展览等方式使用或者公开肖像权人的肖像。
  • 《中华人民共和国民法典》第一千零二十三条对姓名等的许可使用,参照适用肖像许可使用的有关规定。对自然人声音的保护,参照适用肖像权保护的有关规定。

第一千零一十九条里「利用信息技术手段伪造」这半句,就是换脸的直接落点,不必另找依据;第一千零二十三条只有两句话,第二句是声音被克隆、被拟声时最常用的入口。原文可在《中华人民共和国民法典》法规页核对。

三、我就做个头像发朋友圈,要不要标

结论:判断线只有一条——这份内容会不会以假乱真的样子出现在不特定的人面前;会,就必须标;不会,标识可以让位于常识,但授权问题一步都没少。

按顺序问三个问题。

第一问,谁看得见。只存在自己手机相册、只发给家里人、只在一个三个人的群里,属于私域小范围,标识义务追不到这里。发到公开平台、朋友圈、几百人的群、能随手再转发的群,就是面向不特定人。

第二问,有没有商业目的。收钱、引流、卖货、接单、交付客户,只要有其中一项,就不只是标识问题,还叠加广告标注与消费者知情。

第三问,会不会被误认。这是核心。AI生成的风景图、插画、文案模板,没人会当成真人真事;AI 合成的主播、AI 拟声的「专家解读」、AI 换的那张脸带着别人的身份,就是另一回事。标准不是「有没有用 AI」,而是「会不会让人当成真的」。

三问组合起来,口径很清楚:自己看、家人看、不对外,不标可以接受;对外发布但不涉商业、不涉他人的脸和声音,标上,成本最低;对外发布又有商业目的,必须标,还要按广告的规矩标;涉及他人的脸、声音、姓名、身份,标也不够,先拿授权。

再补一句常被误解的:标识要长在内容本体上,跟着内容走。写在账号简介最底部、只在评论区说一句、发完再补条说明,都不算完成,别人截图转走时这些都不跟着走。肖像边界见肖像权词条,场景拆解见AI 换脸、表情包商用、街拍发网。

四、被换脸、被拟声、被冒充亲友借钱:四步取证,三条路

结论:先别急着讲道理,四步把证据钉死,再同时走三条路——投诉下架、民事起诉、报警;顺序错了,后面每一步都打折。

第一步,录屏,要带时间、带账号主页。从点开软件图标开始录,不要从播放页开始。先滑到对方主页,把昵称、账号 ID、粉丝数、发布时间在画面上停三秒;再点进内容,从头播到尾,不暂停、不剪辑;最后回到自己的主页,证明登录的是本人。系统里的「显示触摸操作」打开,让轨迹可见;有条件再用另一台手机对着屏幕拍一段,作为旁证。

第二步,保存原始文件。转发来的视频要存原始文件,不要只存压缩过的版本;聊天记录不要只截图,用迁移功能导出或逐条录屏;语音存原始音频。原始文件里可能带着隐式标识,这是后面追溯生成工具的钥匙。

第三步,做时间戳或者公证。网页内容先用可信时间戳固定,成本低、出证快;金额大、准备起诉的,做公证处的网页公证,效力更稳。两步都不做,庭上对方一句「可以伪造」,你就得花大量力气解释来源。方法见电子证据(微信聊天、录音)如何有效固定与公证、时间戳与证据固定。

第四步,找平台调证。书面向平台提出,要求披露发布者的注册信息、发布时间、登录地址。平台一般只在两种情形下给:权利人有效投诉,或者司法程序。所以起诉后申请法院调查令,是最有效的一条。

三条路可以同时走,不冲突。

投诉下架,目的是止损。走人格权益入口,附身份材料、权属说明、具体链接与时间点,要求书面告知处理结果。

民事起诉,目的是赔偿。肖像走民法典第一千零一十九条,声音走第一千零二十三条参照适用。诉请通常五项:停止侵害、删除内容、断开链接、赔礼道歉、赔偿损失,损失里可含公证费、律师费等合理开支。管辖上,信息网络侵权案件通常可以在你自己的住所地起诉,这对异地维权很关键。要件与赔偿口径站内已有专文,见AI换脸恶搞:深度伪造的侵权红线与我的声音被AI克隆了,能起诉吗,规则见声音保护词条。

报警,目的是追钱追人。冒充亲友借钱、冒充领导要钱,性质是诈骗,不是单纯的人格权纠纷。带四样东西:转账记录、聊天记录、对方账号、你做的录屏。立案与追损见电信网络诈骗如何报案,流程页见刑事报案流程,罪名怎么定见用 AI 换脸冒充熟人借钱,定什么罪。

五、平台不管怎么办:把每次通知变成书面记录

结论:平台不是「一投诉就必须删」,而是「收到合格通知后必须及时处置」;你要做的不是反复找客服吵架,而是把每一次通知做成一份可以被追责的书面记录。

先把通知做合格,四个要素缺一不可:你的身份与权属,说明为什么是你来主张;内容的精确位置,账号、链接、第几秒;侵权理由,侵害的是肖像、声音还是别的;真实性声明,愿意为不实投诉担责。少一项,平台就有理由回一句「材料不全」。

留痕的做法:每次投诉记下工单号、提交时间、处理人编号;电话沟通记下时间与工号,挂断后用站内信复述一遍请对方确认;答复一律要求书面,口头答复不算。三次以上不处理,把时间线整理成一页纸。

升级有三个入口:向网信部门举报,违法和不良信息举报中心受理这类内容,入口见网络诽谤与网络侵权证据清单;涉及虚假广告的,向市场监督管理部门举报;起诉平台,依据是民法典的通知→删除规则——你发了合格通知,平台没及时采取必要措施,对损害扩大部分要担责。实务口径见能要求平台删除我的个人信息吗,框架见直播带货虚假宣传,平台要担责吗与平台责任标签页。

法律上还有一条更直接:网络运营者对其用户发布的信息负有管理义务,发现法律、行政法规禁止发布或者传输的信息,应当立即停止传输、采取消除等处置措施、防止信息扩散、保存记录并报告。

法条依据
  • 《中华人民共和国网络安全法》第四十九条网络运营者应当加强对其用户发布的信息的管理,发现法律、行政法规禁止发布或者传输的信息的,应当立即停止传输该信息,采取消除等处置措施,防止信息扩散,保存有关记录,并向有关主管部门报告。

这一条把「平台该不该管」变成了「平台有没有管」,而有没有管,看的是记录。你在投诉里写清时间点和链接,本身就是在帮平台留下「已经知道」的证据。原文可在《中华人民共和国网络安全法》法规页核对。

六、商家和创作者:不标的风险在「误导」

结论:AI 内容一旦用于商业宣传,标识就不只是提示,而是广告可识别性和消费者知情的一部分;不标的主要风险不是赔钱,是被认定为误导。

三层风险会叠加。广告层面,用 AI生成的人像冒充真实用户、真实专家做推荐,属于虚假或者引人误解的宣传;合成出来的「用户」如果没有提示,看的人会当成真人真的用过。赔偿口径见商家虚假宣传,消费者可以主张哪些赔偿。

消费者知情层面,AI 客服不告知、AI 主播不说明、AI生成的评价当真实评价展示,都落在知情权上,见消费者知情权词条。

平台规则层面,限流、下架、扣分、关闭账号,不需要打官司,平台自己就能做,往往比监管来得快。

合规只有四个动作:画面常驻角标;口播一句提示;导出时保留元数据;合同里写明供应商不得去除标识,并承担因标识缺失导致的处罚。最后一条最容易漏,也最省钱——真出事时,你至少还有一条追偿线。做消费类内容的,可把消费维权分类里的清单当对照表。

顺带说清另一件事:AI生成的内容有没有著作权、别人能不能搬,是另一个问题,别和标识混在一起谈,见AI生成的短剧、文章有著作权吗。

七、今天能做的下一个动作

结论:发布前问六句,被冒充后做四步;这十件事今天就能做完,不需要先懂法。

发布前六问,逐条过:一,内容里有没有 AI 参与的部分,换脸、拟声、代写、生成图都算;二,画面或声音里有没有持续、清晰、去不掉的提示;三,导出之后文件属性里的生成信息还在不在;四,有没有用到别人的脸、声音、姓名、身份;五,是不是要发到不特定的人能看到的地方;六,有没有商业目的,卖货、引流、接单、交付客户都算。前四问有一个「有」,就必须标;第五、第六问有一个「有」,还要补广告标注与授权文件。

被冒充后四步:录屏带主页与时间、保存原始文件、做时间戳或公证、向平台书面调证。四步做完再决定走投诉、起诉还是报警;反过来,先报警再回头找证据,往往证据已经没了。

给平台的投诉正文,可以照着改:

「本人系某某(身份证号后四位某某),现实名投诉账号某某(链接某某)于某年某月某日某时发布的内容,在第几秒处使用本人肖像与声音,本人从未授权,该内容为合成且未见任何标识。请依现行规定核验、处置,并书面告知处理结果,工单号请一并回复。附件:本人身份证明、原始照片或音频、对比说明、录屏文件。」

要准备的材料
  • 发布前:确认 AI 参与的部分;在本体加持续可见的提示;导出后检查文件属性里的生成信息;核实是否用到他人肖像、声音、姓名;确认发布范围是否面向不特定人;确认有无商业目的并补齐广告标注与授权。
  • 被冒充后第 1 步:从打开软件开始录屏,先拍对方主页的昵称、ID、发布时间,再完整播放内容,最后回到本人主页。
  • 第 2 步:保存原始视频、原始音频、完整聊天记录,不要只留截图和压缩版。
  • 第 3 步:网页内容做可信时间戳,金额大或准备起诉的做网页公证。
  • 第 4 步:向平台书面申请披露发布者信息,起诉后申请法院调查令。
  • 投诉时:一份通知写清身份权属、内容定位(账号、链接、第几秒)、侵权理由、真实性声明,并留下工单号。
给视频加了水印,是不是就没人能告我了?

不是。标识只解决「看的人知不知道这是合成的」,不解决「你有没有权利用人家的脸和声音」。未经同意使用他人肖像、声音,即使标得很清楚,仍然构成侵权。标识是义务,授权是另一回事。

平台给我内容加了「疑似AI生成」的提示,能要求去掉吗?

很难。提示属于平台核验与告知义务的履行,不是处罚。要主张去掉,得证明内容确实不含 AI 成分并提供可核查的原始素材;仅凭口头否认,平台没有理由撤掉。

工具导出后自动把文件里的生成信息抹掉了,责任算谁的?

算提供工具那一方。按现行规定,提供下载、复制、导出功能时应当保证标识不被破坏,不得提供去除标识的功能。你可以向平台或监管部门反映;但你自己发布时仍负有把提示补上的义务。

录屏和截图,哪个更管用?

录屏,而且要带账号主页与时间。截图只能证明「有过这张图」,证明不了挂在哪个账号下、什么时候发的、有没有被剪辑。最稳的是三样齐备:录屏、原始文件、时间戳或公证。

公司用 AI生成海报做宣传,没标会被罚吗?

风险在两处:被认定为虚假或者引人误解的宣传,被认定侵害消费者知情权。平台侧的限流、下架、扣分往往来得更快。合规做法是画面常驻提示、口播说明、保留文件元数据。

转发别人的 AI 视频到群里,我要负责吗?

看转发时的状态和范围。明知是合成、明知侵害他人权益还转发,扩大传播的部分要担责;转到几百人、可以再转发的群,和发到公开平台差别不大。只发给家人、人数很少,风险明显低,但不等于零。

平台不肯告诉我发布者是谁,还能起诉吗?

可以先起诉平台要求披露,也可以起诉后申请法院调查令,由法院调取注册信息、发布时间、登录地址。实践中后者更有效。前提是通知做合格、留痕完整,否则平台有理由说无法判断。

延伸阅读

同类问题还可以从基础法律常识分类与侵权责任指南继续找,网络个人信息问答里有更短的答法,肖像权标签下按主题归集了相关文章,工具页可查期限与赔偿口径。人脸信息被冒用的权威案例见人脸信息侵权刑事案,泄露与搜证的完整路径见个人信息被泄露、被人肉搜索怎么办。

本文仅为普法参考,不构成法律意见;具体个案请咨询执业律师。以上内容不构成正式法律意见,仅为一般性法律知识分享。