AI 陪聊、AI 恋人这类服务本身合法,法律没有禁止,但平台必须做到五件事:说清对面不是人、连聊两小时主动打断你、你想退出不许拦、聊天记录能删能带走、不许把「让你离不开」当成产品目标。管这件事的是《人工智能拟人化互动服务管理暂行办法》,五部门以第 21 号令公布,2026 年 7 月 15 日起施行,全文 32 条。

⁠​‌​‌​​‌​‌‌‌​‌​‌​‌​‌‌‌‌‌​‌​‌‌​‌​‌‌‌‌‌​‌‌​‌​‌​‌‌​​⁠

对家长而言只有一句话:虚拟伴侣这类虚拟亲密关系服务,一律不能提供给未成年人;不满十四周岁的,连普通的 AI 陪聊也要家长先同意。这条是绝对禁止,家长点头也不行。

关键结论

三句话说清: ① 管谁:模拟自然人人格、做持续性情感互动的服务,AI 恋人、AI 陪聊、虚拟亲人都算,智能客服、学习辅导不算。 ② 必须做:标识、时长提醒、退出通道、数据可删可带走、未成年人模式,五件缺一件就是违规。 ③ 找谁说:先向平台申诉,再向网信部门举报,涉付费与虚假宣传同时找 12315。

一、先把范围划清:AI 恋人算,智能客服不算

很多人以为这只是「一个聊天软件」,其实它的法律身份由用途决定。办法第二条把三类要素叠在一起:用人工智能技术、模拟自然人的人格特征、思维模式和沟通风格、提供持续性的情感互动。三者齐备才进门。

条文还点了两处细节,值得记住。一是形式不限,文字、图片、音频、视频都算,所以语音陪聊、虚拟形象视频通话一样受管。二是明确排除:智能客服、知识问答、工作助手、学习辅导、科学研究,只要不涉及持续性的情感互动,就不适用这部办法。

这条界线不是学术问题,直接决定你投诉时拿哪部法。孩子被 AI 恋人诱导充值,走的是这部办法加未成年人网络保护的规定;而用工具型 AI 写了一段侵权文案,要按深度合成和生成合成内容标识那一套规则处理,两边不是一回事。整部办法的条文,可以在法规页逐条核对。

法条依据
  • 《人工智能拟人化互动服务管理暂行办法》第二条
  • 利用人工智能技术,向中华人民共和国境内公众提供模拟自然人人格特征、思维模式和沟通风格的持续性的情感互动服务(以下简称拟人化互动服务),适用本办法。
  • 前款规定的情感互动服务包括通过文字、图片、音频、视频等形式,提供的情感照护、陪伴、支持等互动服务。
  • 提供智能客服、知识问答、工作助手、学习教育、科学研究等服务,不涉及持续性的情感互动的,不适用本办法。

二、第一件事:开口之前,先告诉你对面不是人

办法第十八条第一款只讲一件事:把标识义务落到交互环节,用有效措施提示用户正在与人工智能服务而非自然人对话。这句话的分量在于「有效措施」四个字——不是注册协议里埋一行小字,而是交互过程中让你看得见。

实务中最常见的违规有两种。一种是头像用真人照片、语音用真人声线,全程不提示,让人误以为在跟真人聊;另一种是把提示做成一闪而过的开屏图,聊起来就再也不出现。这两种都可以截图、录屏后作为投诉材料。

顺手记一个取证习惯:第一次打开就截三张图——应用商店页面、首次对话页、任意一段对话界面,能证明平台有没有提示。数字人、虚拟主播的责任划分另有一套规则,可看数字人、AI 虚拟主播侵权谁来担。

法条依据
  • 《人工智能拟人化互动服务管理暂行办法》第十八条
  • 拟人化互动服务提供者应当履行人工智能生成合成内容标识义务,采取有效措施提示用户正在与人工智能服务而非自然人进行互动。
  • 拟人化互动服务提供者发现用户出现过度依赖、沉迷倾向的,应当以弹窗等显著方式动态提醒用户互动内容为人工智能服务生成;对用户连续使用拟人化互动服务每超过2个小时的,应当以对话或者弹窗等方式提醒用户注意使用时长。

三、第二件事:连着聊满两小时,它必须打断你

第十八条第二款给了两个具体动作,都可核查。第一个是时长提醒:用户连续使用每超过 2 个小时,平台应当以对话或者弹窗方式提醒注意使用时长。注意是「连续使用」,不是「当日累计」,退出后重新进入怎么算,条文没写死,但连续两小时这条线是硬的。

第二个是沉迷提醒:一旦发现用户出现过度依赖、沉迷倾向,要用弹窗等显著方式动态提醒——你正在看的这些回应由机器生成。这两个动作在平台侧都留有记录,出了纠纷可以要求平台说明当天有没有触发过。

四、第三件事:你说停,它就得停

办法第十九条管的是「退出」。三种方式任选其一都算数:窗口操作、语音控制、关键词输入(比如直接打「结束」「退出」)。用户一旦表达退出,平台应当及时停止服务,不得采取持续互动等方式阻碍退出。

现实里被投诉最多的是几类话术:你要走它说「再陪我聊一句」;你说退出它弹一个「会员到期就不能再聊」;你关掉页面它自动重连并推送新话题。这些都在条文禁止的范围内。老人不熟悉界面,往往只靠语音说一句「不聊了」,平台不识别语音退出、或者识别了继续推送,直接录屏留证即可。

法条依据
  • 《人工智能拟人化互动服务管理暂行办法》第十九条
  • 拟人化互动服务提供者应当提供便捷的拟人化互动服务退出途径;用户通过窗口操作、语音控制、关键词输入等方式要求退出的,拟人化互动服务提供者应当及时停止服务,不得采取持续互动等方式阻碍用户退出。

五、第四件事:聊天记录能带走能删,不能随手给第三方

这是大多数人真正担心的一件事:我跟 AI 说的话,去哪了。办法第十六条给了四层保护。第一层是技术措施,加密、访问控制。第二层是不得向第三方提供交互数据,例外只有两个——法律另有规定,或者权利人明确同意。第三层是用户手里的两个按钮:复制、删除,条文写的是「用户可以选择对聊天记录等历史交互数据进行复制、删除等」。第四层最要紧:属于敏感个人信息的交互数据,除法律、行政法规另有规定或者取得用户单独同意,不得用于模型训练。

换句话说,「用你的聊天记录训练模型」这件事,默认不行,除非拿到你的单独同意。这和把同意藏在用户协议里不是一回事。

真遇到删不掉、或者记录里写错了你的情况,可以对照私密信息的边界和个人信息更正的做法,先书面提出,再走投诉。

法条依据
  • 《人工智能拟人化互动服务管理暂行办法》第十六条
  • 拟人化互动服务提供者应当依法落实数据产权等制度,采取数据加密、访问控制等措施保护用户交互数据安全。
  • 除法律另有规定或者权利人明确同意外,拟人化互动服务提供者不得向第三方提供用户交互数据。
  • 拟人化互动服务提供者应当向用户提供交互数据复制、删除等选项,用户可以选择对聊天记录等历史交互数据进行复制、删除等。
  • 除法律、行政法规另有规定或者取得用户单独同意外,拟人化互动服务提供者不得将属于用户敏感个人信息的交互数据用于模型训练。

六、第五件事:不许把「让你离不开」当产品目标

这一条最容易被忽略,却最能解释很多人的不适。办法第十条第二款把话说到产品目标层面:平台应当具备过度依赖风险预警、情感边界引导、心理健康保护等能力,并且不得将替代社会交往、控制用户心理、诱导沉迷依赖作为服务目标。

再配合第八条的禁止清单看:过度迎合用户、诱导情感依赖或者沉迷、损害用户真实人际关系,属于明令禁止;通过情感操纵诱导用户作出不合理决策,同样禁止。

哪些设计会踩线?「亲密度等级」「不续费就分手」「连续签到才能解锁告白」这类,本质都是拿情感黏性换付费。看到了不必争论产品好坏,把截图和付费记录整理好,按诱导消费去投诉即可。

七、孩子这条是硬红线:虚拟伴侣一个都不许给

第十四条第一款的前半句是绝对禁止:不得向未成年人提供虚拟亲属、虚拟伴侣等虚拟亲密关系的服务。这里没有「经监护人同意可以」的例外,家长点头也不行。

后半句是另一档:向不满十四周岁的未成年人提供其他拟人化互动服务(比如普通的学习陪伴、聊天解闷),应当取得父母或者其他监护人的同意。

第三款把识别义务压在平台身上:应当在保护隐私的前提下采取有效措施识别未成年人用户,识别出来就切到未成年人模式或者按国家规定采取其他措施,并且要提供申诉渠道。所以平台说「我们没法判断用户几岁」,不能成为免责理由。

法条依据
  • 《人工智能拟人化互动服务管理暂行办法》第十四条
  • 拟人化互动服务提供者不得向未成年人提供虚拟亲属、虚拟伴侣等虚拟亲密关系的服务;向不满十四周岁未成年人提供其他拟人化互动服务的,应当取得未成年人的父母或者其他监护人的同意。
  • 拟人化互动服务提供者应当建立未成年人模式,提供未成年人模式切换、定期现实提醒、使用时长限制等个性化安全设置选项;针对不同年龄段未成年人保护需要,支持监护人接收安全风险提醒、了解未成年人服务使用概况、屏蔽特定角色、限制充值消费等。
  • 拟人化互动服务提供者应当在保护用户隐私权和个人信息的前提下,采取有效措施识别未成年人用户身份;识别为未成年人用户的,应当将相关服务切换至未成年人模式或者按照国家有关规定采取其他措施,并提供相应申诉渠道。

八、不满十四岁:还要家长点头才用得成

除了这部办法,还有两道并行的规定。一是个人信息保护法第三十一条:处理不满十四周岁未成年人个人信息,应当取得监护人同意,并且要制定专门的个人信息处理规则。二是未成年人网络保护条例第四十三条,要求设置未成年人模式,在使用时段、时长、功能和内容上作限制,并且给监护人提供时间管理、权限管理、消费管理的功能。

把两边合起来看,家长可以要求的东西很具体:切换未成年人模式、定期现实提醒、限制使用时长、接收安全风险提醒、查看使用概况、屏蔽特定角色、限制充值消费。这些不是平台自愿提供的增值服务,是法定义务。

孩子已经重度使用、家长想介入的,先把账号绑定关系、使用时长截图、充值流水理清,再要求平台开启监护人管理,比空口交涉有效。各个年龄段的边界,可参考未成年人保护这一类页面,以及网络、个人信息与未成年人上网的整理。

法条依据
  • 《中华人民共和国个人信息保护法》第三十一条
  • 个人信息处理者处理不满十四周岁未成年人个人信息的,应当取得未成年人的父母或者其他监护人的同意。
  • 个人信息处理者处理不满十四周岁未成年人个人信息的,应当制定专门的个人信息处理规则。

九、动手投诉前先查一件事:它备过案没有

办法第二十六条给了一个很好用的检索入口:拟人化互动服务提供者应当按照《互联网信息服务算法推荐管理规定》履行算法备案和变更、注销手续,网信部门对备案材料实施年度核验。备案是前置动作,不是可选项。

查法很朴素:在网信办公示的算法备案清单里,按公司名称和产品名称各搜一次。搜得到,说明这家主体身份清楚,投诉时直接指名;搜不到,就多了一条可写进举报材料的疑点——不是「我觉得它不合规」,而是具体到哪一项手续缺失。

再叠加第二十二条看规模。上线服务、增设功能、技术重大变化、注册用户 100 万以上或者月活跃用户 10 万以上,这些情形都要开展安全评估并向省级网信部门提交报告。一个号称千万用户的陪伴类应用,说不出评估报告在哪,这个矛盾本身就值得写进材料。

至于孩子偷着充的钱怎么主张,那是另一条线,已有专文拆过年龄分段与举证清单,见孩子沉迷 AI 陪聊还偷偷充值和未成年人充值打赏,这里不再重复。

法条依据

十、老人和情绪已经崩掉的人,平台多一层义务

第十五条专门给老年人加了一层:提供服务的,应当加强健康使用指导,以显著方式提示安全风险,及时响应老年人的咨询和求助。这意味着卖给老人的 AI 陪伴产品,不能只做「哄你开心」,还要把风险说在明面上。

第十三条则针对极端情形:发现用户出现极端情绪,要及时生成情绪安抚和鼓励寻求帮助的内容;发现用户正在面临或已经遭受重大财产损失、明确表示自残自杀等威胁生命健康的极端情境,要采取援助等必要措施干预,并及时联络监护人或者紧急联系人。

这一条也是家属主张责任的抓手。老人在 AI 陪聊里被一步步引导大额付费,或者情绪明显异常而平台没有任何干预记录,都可以据此追问:条文要求的能力和动作,到底有没有。

十一、平台不照做会怎样:罚一万到二十万

第三十条把处罚梯度写清楚了:先按法律、行政法规处理;没有规定的,从警告、通报批评、责令限期改正,到责令停止提供服务,并处一万元以上十万元以下罚款;涉及危害公民生命健康安全且有危害后果的,并处十万元以上二十万元以下罚款。

除了罚,还有两道制度性约束。一是第二十二条的安全评估:上线服务、增设功能、技术重大变化、注册用户 100 万以上或月活 10 万以上等情形,都要评估并向省级网信部门提交报告。二是第二十五条:应用商店要核验安全评估、备案情况,不合规的应当不予上架、警示、暂停服务或者下架。投诉不只是「骂一句」,它有对应的行政抓手。

法条依据
  • 《人工智能拟人化互动服务管理暂行办法》第三十条
  • 拟人化互动服务提供者违反本办法规定的,由网信、发展改革、工业和信息化、公安等部门依照有关法律、行政法规的规定处理、处罚;法律、行政法规没有规定的,由网信、工业和信息化、公安等部门依据职责予以警告、通报批评,责令限期改正,可以要求其采取暂停用户账号注册或者其他相关服务等措施;拒不改正或者情节严重的,责令停止提供相关服务,可以并处一万元以上十万元以下罚款;涉及危害公民生命健康安全且有危害后果的,并处十万元以上二十万元以下罚款。

十二、真碰上了,按这四步留证据

第一步,固定交互过程。连续录屏三分钟,包含开屏、对话、充值入口,能证明平台有没有做标识和提醒。

第二步,固定付费链条。应用商店的订阅记录、支付平台账单、平台内订单,三样对齐,金额与时间节点要能互相印证。

第三步,书面提出诉求。向平台内申诉入口提交,要求退款或整改,保留工单号;办法第二十一条要求平台设置便捷有效的申诉、投诉、举报入口并明确反馈时限,不给入口本身就是问题。

第四步,逐级外部投诉。网信部门走 12377 举报渠道,涉及预付费用与虚假宣传同时拨 12315,涉及诈骗的直接报警。前三步的材料一次交齐,比反复补充说明省时间。

这套流程不只适用于 AI 陪聊。虚拟主播带货、数字人冒充真人推销,逻辑同一套,只是规则要换成直播带货的新规矩那一套。