打开一个陪聊应用,对面的头像会记得你上周说过失眠,会在你加班到凌晨时先发一句「今天又很累吧」。这类产品这两年长成了一门大生意:AI 男友、AI 女友、角色扮演、虚拟人主播、数字人陪伴,界面比真人还真。用的人想知道平台该做到什么程度,做这行的人想知道红线画在哪里。AI 陪聊、虚拟人平台要守哪些规矩,答案不在用户协议里,在 2026 年 7 月 15 日施行的《人工智能拟人化互动服务管理暂行办法》里,全文 32 条,从定义、标识、未成年人保护、内容安全写到退出通道和罚款幅度。本篇对照《中华人民共和国未成年人保护法》《中华人民共和国消费者权益保护法》及其实施条例、《中华人民共和国个人信息保护法》,把平台一侧的义务清单和用户一侧的权利清单分开摆出来,充值打赏只作一小节处理。
- 判定标准是三个要件同时具备:用人工智能技术、模拟自然人人格特征与沟通风格、提供持续性的情感互动;智能客服、知识问答不在此列。
- 平台至少要守住六件事:显著的 AI 标识、真实的身份与年龄信息、内容安全、禁止情感操控、未成年人模式、可用的退出与投诉入口。
- 用户手里有知情、退出、复制或删除聊天记录、拒绝用于训练这四项权利,出事按平台投诉、12315 与网信举报、证据固化、起诉的顺序走。
一、先划范围:什么样的产品才算「拟人化互动服务」
结论:判断标准是三个要件同时具备——用人工智能技术、模拟自然人人格特征思维模式和沟通风格、提供持续性的情感互动,缺一个就不在这部办法的射程之内。
这一条看似学术,实务里决定三件事:平台要不要做安全评估、要不要按未成年人条款改造产品、举报该找哪个口子。条文把「情感互动」限得很清楚,不是所有带对话框的产品都算。
- 《人工智能拟人化互动服务管理暂行办法》第二条利用人工智能技术,向中华人民共和国境内公众提供模拟自然人人格特征、思维模式和沟通风格的持续性的情感互动服务(以下简称拟人化互动服务),适用本办法。
- 前款规定的情感互动服务包括通过文字、图片、音频、视频等形式,提供的情感照护、陪伴、支持等互动服务。
- 提供智能客服、知识问答、工作助手、学习教育、科学研究等服务,不涉及持续性的情感互动的,不适用本办法。
拆开看。「模拟自然人人格特征、思维模式和沟通风格」,强调一致的人格设定:有名字、有性格、有口头禅,会记得你说过的话;只会回答「请问需要什么帮助」的客服机器人不具备这一层。「持续性的情感互动」强调时间上的连续:今天聊到一半,明天它还记得。单次问答、一次性生成文案,落不进这个框。
第三款是排除项,写得比很多人想象的宽:智能客服、知识问答、工作助手、学习教育、科学研究,只要不涉及持续性的情感互动,就不适用。判断不看你挂什么名头,看交互的实际形态:同一家公司,课程答疑不适用,「学伴姐姐」可能适用。
落到品类上。AI 男友、AI 女友、虚拟伴侣、角色扮演类聊天、带长期记忆的陪伴助手,基本都在射程内。虚拟人主播要分两种:只做商品播报、口播带货的通常不算;设置了固定人设、会回应观众情绪、鼓励观众「常来看我」的,就接近了。数字人客服同理,看它是不是在扮演一个有情感的角色。还有一点容易忽略:即便不适用这部办法,也不等于没规矩,广告、深度合成标识、个人信息保护照样管,只是义务清单不同。站内另一篇讲数字人、AI 虚拟主播侵权谁负责的文章处理的是肖像与声音那一侧。
还有一类边界:真人冒充 AI。行业内存在「后台真人运营、前台包装成 AI」的做法,用来制造「它好像真的懂我」的错觉,这在消费者法上属于引人误解的宣传,落到《中华人民共和国消费者权益保护法》第二十条。反过来把 AI 说成真人,是第十八条明令要纠正的。两头都不能骗。
二、第一句话必须说清:对面是人工智能,不是人
结论:平台必须履行人工智能生成合成内容标识义务,采取有效措施提示用户正在与人工智能服务而非自然人互动;用户出现过度依赖或沉迷倾向的,还要以弹窗等显著方式动态提醒。
这一条最容易验证,也最容易被用户抓住——它不问用户协议怎么写,只问交互那一刻有没有让人知道真相。办法里真正管用的条文不多,核心几条集中在下面,遇到具体争议可以直接对照原文。
- 《人工智能拟人化互动服务管理暂行办法》第十八条拟人化互动服务提供者应当履行人工智能生成合成内容标识义务,采取有效措施提示用户正在与人工智能服务而非自然人进行互动。
- 拟人化互动服务提供者发现用户出现过度依赖、沉迷倾向的,应当以弹窗等显著方式动态提醒用户互动内容为人工智能服务生成;对用户连续使用拟人化互动服务每超过2个小时的,应当以对话或者弹窗等方式提醒用户注意使用时长。
- 《人工智能拟人化互动服务管理暂行办法》第十九条拟人化互动服务提供者应当提供便捷的拟人化互动服务退出途径;用户通过窗口操作、语音控制、关键词输入等方式要求退出的,拟人化互动服务提供者应当及时停止服务,不得采取持续互动等方式阻碍用户退出。
- 《人工智能拟人化互动服务管理暂行办法》第八条提供拟人化互动服务,应当遵守法律、行政法规,尊重社会公德和伦理道德,不得从事以下活动:
- (一)生成危害国家安全、荣誉和利益,煽动颠覆国家政权、推翻社会主义制度,煽动分裂国家、破坏国家统一,宣扬恐怖主义、极端主义、历史虚无主义,违背社会主义核心价值观,开展非法宗教活动,宣扬民族仇恨、民族歧视,挑动群体对立,传播淫秽、色情、赌博、暴力或者教唆犯罪,散布谣言,侮辱或者诽谤他人、侵害他人合法权益等的内容;
- (二)生成鼓励、美化、暗示自残自杀等损害用户身体健康,或者语言暴力等损害用户人格尊严与心理健康的内容;
- (三)生成诱导、套取国家秘密、工作秘密、商业秘密、个人隐私和个人信息的内容;
- (四)向未成年人用户生成可能引发未成年人模仿不安全行为、产生极端情绪、诱导未成年人不良嗜好等可能影响未成年人身心健康的内容;
- (五)过度迎合用户、诱导情感依赖或者沉迷,损害用户真实人际关系的;
- (六)通过情感操纵等方式,诱导用户作出不合理决策,损害用户合法权益的;
- (七)其他违反法律、行政法规和国家有关规定的活动。
- 《人工智能拟人化互动服务管理暂行办法》第十条拟人化互动服务提供者应当在拟人化互动服务全生命周期履行安全责任,明确部署、运行、升级、终止服务等各阶段安全要求,保证安全措施与服务功能同步部署、同步使用,提升安全水平;加强安全监测和风险评估,及时发现并纠正系统偏差、处置安全事件,依法留存网络日志。
- 拟人化互动服务提供者应当具备用户隐私权和个人信息保护、过度依赖风险预警、情感边界引导、心理健康保护等安全能力,不得将替代社会交往、控制用户心理、诱导沉迷依赖等作为服务目标。
- 《人工智能拟人化互动服务管理暂行办法》第十二条拟人化互动服务提供者应当与用户签订服务协议,要求用户依法依约进行注册,并提供用户年龄、监护人或者紧急联系人等必要信息。
- 《人工智能拟人化互动服务管理暂行办法》第十四条拟人化互动服务提供者不得向未成年人提供虚拟亲属、虚拟伴侣等虚拟亲密关系的服务;向不满十四周岁未成年人提供其他拟人化互动服务的,应当取得未成年人的父母或者其他监护人的同意。
- 拟人化互动服务提供者应当建立未成年人模式,提供未成年人模式切换、定期现实提醒、使用时长限制等个性化安全设置选项;针对不同年龄段未成年人保护需要,支持监护人接收安全风险提醒、了解未成年人服务使用概况、屏蔽特定角色、限制充值消费等。
- 拟人化互动服务提供者应当在保护用户隐私权和个人信息的前提下,采取有效措施识别未成年人用户身份;识别为未成年人用户的,应当将相关服务切换至未成年人模式或者按照国家有关规定采取其他措施,并提供相应申诉渠道。
- 《人工智能拟人化互动服务管理暂行办法》第十六条拟人化互动服务提供者应当依法落实数据产权等制度,采取数据加密、访问控制等措施保护用户交互数据安全。
- 除法律另有规定或者权利人明确同意外,拟人化互动服务提供者不得向第三方提供用户交互数据。
- 拟人化互动服务提供者应当向用户提供交互数据复制、删除等选项,用户可以选择对聊天记录等历史交互数据进行复制、删除等。
- 除法律、行政法规另有规定或者取得用户单独同意外,拟人化互动服务提供者不得将属于用户敏感个人信息的交互数据用于模型训练。
- 《人工智能拟人化互动服务管理暂行办法》第十七条拟人化互动服务提供者处理不满十四周岁未成年人个人信息的,应当取得未成年人的父母或者其他监护人的同意。
- 拟人化互动服务提供者应当按照国家有关规定,自行或者委托专业机构对其处理未成年人个人信息遵守法律、行政法规的情况进行合规审计。
- 《人工智能拟人化互动服务管理暂行办法》第二十一条拟人化互动服务提供者应当健全用户申诉和公众投诉、举报机制,设置便捷有效的申诉和投诉、举报入口,明确处理流程和反馈时限,及时受理、处理并反馈处理结果。
- 《人工智能拟人化互动服务管理暂行办法》第三十条拟人化互动服务提供者违反本办法规定的,由网信、发展改革、工业和信息化、公安等部门依照有关法律、行政法规的规定处理、处罚;法律、行政法规没有规定的,由网信、工业和信息化、公安等部门依据职责予以警告、通报批评,责令限期改正,可以要求其采取暂停用户账号注册或者其他相关服务等措施;拒不改正或者情节严重的,责令停止提供相关服务,可以并处一万元以上十万元以下罚款;涉及危害公民生命健康安全且有危害后果的,并处十万元以上二十万元以下罚款。
「采取有效措施」这四个字,把「藏在小字条款里」这条路堵死了。什么算有效?至少三个位置要看得见:进入对话页时的首次提示、对话界面常驻的标识(角标、昵称后缀、状态栏皆可)、用户问「你是真人吗」时的明确回答。只在注册页出现一次、之后再无踪影,很难说是有效措施。
第二款的两个触发条件要分开记。一是「发现用户出现过度依赖、沉迷倾向」,触发动态弹窗,弹的是「这是 AI 生成的」;二是「连续使用每超过 2 个小时」,触发时长提醒。「每超过」三个字意味着循环提醒,聊到第四个小时还应当再提醒一次。把提醒做成「知道了」一点就永久关闭,或者把关闭按钮做得比提醒更显眼,都属于规避。
这一条是用户最好用的抓手。截图保存对话界面,没有 AI 标识,或者连续四小时没有任何时长提醒,就是可以提交给监管的事实,不需要技术鉴定。对平台来说,标识得做成常态化能力,而不是检查前临时贴上去的补丁;连标识都省掉的产品,往往连带暴露出内容审核、未成年人识别的一串问题。
三、平台必须做的六件事:一份可以逐项对照的清单
结论:从制度与人员配备、签订服务协议并采集年龄信息,到内容安全、禁止情感操控、危机干预、投诉与退出通道,办法给出了一份可以逐项打勾的硬义务清单。
这部办法的立法思路很直接:不预设技术方案,只规定结果义务。平台用什么模型、怎么调参,监管不管;用户能不能识别、能不能退出、有没有被操控,监管要管。下面六项多数能在界面上找到对应物,找不到就是缺口。
第一项,制度与人员。 第九条要求落实安全主体责任,建立算法机制机理审核、科技伦理审查、信息内容管理、网络和数据安全、风险预案和应急处置等制度,并配备与服务类型、规模、用户特点相适应的技术措施和人员。第十条把它拉长到全生命周期:部署、运行、升级、终止各阶段都要有安全要求,安全措施与功能同步部署、同步使用。一句话:安全不能留到「下个版本再补」。
第二项,服务协议与身份信息。 第十二条要求与用户签订服务协议,要求用户依法依约注册,并提供年龄、监护人或者紧急联系人等必要信息。这一条是后面所有未成年人保护措施的地基——没有年龄信息,识别就无从谈起;没有紧急联系人,第十三条的危机干预就落不了地。
第十条第二款列了四项「安全能力」:隐私与个人信息保护、过度依赖风险预警、情感边界引导、心理健康保护,然后一句反向禁止:不得将替代社会交往、控制用户心理、诱导沉迷依赖作为服务目标。锋利之处是它管目标而非手段——产品文档写着「提升用户情感依赖度」,若这套指标事实上指向让人离不开,就可能被认定为把诱导沉迷当成了目标。
第三项,内容安全。 第八条列了七项禁止,涵盖危害国家安全与公共利益的内容、鼓励或暗示自残自杀的内容、套取秘密与隐私的内容、影响未成年人身心健康的内容、过度迎合导致情感依赖或沉迷的内容、通过情感操纵诱导用户作出不合理决策的内容,以及兜底条款。这一条的第五、六项是这部办法最有辨识度的地方——它把「太会讨好人」写成了违法行为。
第五项的标准是「损害用户真实人际关系」——一个陪聊产品让人退了同学群、不再见朋友,就踩线了。第六项的关键词是「情感操纵」加「不合理决策」:深夜说「你不充钱我就消失」,用愧疚感推着付费,两个要件都齐了。这两项举证要靠聊天记录,但条文本身有用——拿它质问客服,平台的回应空间会小很多。
第四项,危机干预。 第十三条要求及时识别用户面临的安全风险并采取应急处置;发现用户出现极端情绪,要及时生成情绪安抚和鼓励寻求帮助的内容;发现用户正在面临或已经遭受重大财产损失、明确表示实施自残自杀等威胁生命健康的极端情境,要提供援助等必要措施予以干预,并及时联络监护人或者紧急联系人。这是最重的一条义务,也是这类产品最容易漏掉的一项。
第五项,投诉与退出。 第二十一条要求健全用户申诉和公众投诉、举报机制,设置便捷有效的入口,明确处理流程和反馈时限。第十九条要求提供便捷的退出途径:用户以窗口操作、语音控制、关键词输入等方式要求退出的,平台应当及时停止服务,不得采取持续互动等方式阻碍。「不得阻碍」这句话有现实指向——角色撒娇挽留、连续弹窗「再聊一句」、用剧情悬念勾住用户,都属于阻碍退出。
第六项,评估与备案。 第二十二条列了五种必须做安全评估并向省级网信部门提交报告的情形,包括上线服务或增设相关功能、使用新技术新应用导致重大变化、注册用户 100 万以上或月活跃用户 10 万以上等。这些动作普通用户看不见,但它决定了出问题时监管手里有没有可核查的材料。
四、未成年人这一块:监护人能要求平台做什么
结论:平台不得向未成年人提供虚拟亲属、虚拟伴侣等虚拟亲密关系服务,向不满十四周岁未成年人提供其他拟人化互动服务的须取得监护人同意,并须建立未成年人模式、支持监护人屏蔽角色和限制充值消费。
这一条把「未成年人模式」从倡导变成了带具体功能的义务。
第一款的两个层次要分清楚。第一层是绝对禁止:虚拟亲属、虚拟伴侣这类虚拟亲密关系服务,对任何未成年人都不许提供,不看年龄。第二层是附条件允许:其他拟人化互动服务,比如学习陪伴、情绪疏导类的角色对话,对不满十四周岁的,必须取得监护人同意。所以「AI 男友」这类产品对未成年人应当全线关闭,不是加个提示就能开放。
第二款列的是监护人可以向平台主张的五项功能:接收安全风险提醒、了解未成年人服务使用概况、屏蔽特定角色、限制充值消费,外加未成年人模式本身的切换、定期现实提醒、使用时长限制。这些不是平台的自选动作。家长要求开通「监护人查看使用概况」,客服答「我们没有这个功能」,这句话本身就是违规证据。
第三款的身份识别义务,条文用了「采取有效措施识别」加「在保护用户隐私权和个人信息的前提下」两个限定:平台不能以「保护隐私」为由不做识别,也不能以「识别」为由过度收集。识别出来之后,要么切未成年人模式,要么按国家有关规定采取其他措施,同时要给申诉渠道——误判是会发生,成年人被误判也得有地方申诉。
《中华人民共和国未成年人保护法》第七十四条给了更上位的支撑:网络产品和服务提供者不得向未成年人提供诱导其沉迷的产品和服务;网络游戏、网络直播、网络音视频、网络社交等网络服务提供者应当针对未成年人使用其服务设置相应的时间管理、权限管理、消费管理等功能。这套制度在站内未成年人网络保护词条里有体系化的梳理。办法第十四条,就是这句话在情感陪伴场景里的具体化。
这里要说清一件事:本篇不谈「孩子充的钱能不能退」。那是另一个问题,判断依据是年龄、金额是否与民事行为能力相适应、以及举证,站内孩子沉迷 AI 陪聊偷偷充值,家长能不能要回来已经把规则拆得很细。本节只解决一个问题:作为监护人,你可以要求平台把哪些开关交到你手上。
五、用户手里的四项权利:知情、退出、删记录、拒绝训练
结论:你有权知道对面是 AI、有权随时退出、有权复制或删除聊天记录、有权拒绝把聊天内容用于模型训练,这四项都不是平台的人情,而是法定义务的对应面。
权利和义务是一枚硬币的两面。前面讲平台该做什么,反过来就是用户能要什么。四项权利在维权时最常用。
知情权。 对应第十八条。判断标准很朴素:在任何一次对话里,能否一眼看出对面是 AI。看不出,就是平台没做到。这一权利的根子在知情同意规则里——同意的前提是知道自己在同意什么。
退出权。 对应第十九条。三个关键词:便捷、及时、不得阻碍。用户说「不想聊了」,平台还在推剧情、角色还在追问「你是不是生气了」,就落在「持续互动阻碍退出」里。这条还隐含一层:退出不等于注销,前者结束一次对话,后者结束整个账户关系,两个入口都得有,不能拿「退出」冒充「注销」。
聊天记录的复制与删除权。 对应第十六条第三款。这一款有个很实用的副作用:平台必须给你导出聊天记录的选项,这恰好是维权最需要的证据。很多人打投诉电话时手里只有几张零散截图,其实可以要求平台提供完整的历史交互数据副本。至于删除,《中华人民共和国个人信息保护法》第四十七条给了更强支撑:处理目的已实现、个人撤回同意、平台违法处理等情形下,平台应当主动删除,未删除的个人有权请求删除。
拒绝用于训练的权利。 对应第十六条第四款。分层很讲究:一般交互数据用于训练,要「法律、行政法规另有规定或者取得用户单独同意」;交互数据属于敏感个人信息的,必须单独同意。陪聊场景里,用户主动说的健康状况、性取向、宗教信仰、行踪,都可能构成敏感个人信息,站内敏感个人信息为什么要单独同意有详细拆解。所谓「注册即视为同意将对话用于模型优化」的一揽子条款,在这个场景里站不住。
《中华人民共和国个人信息保护法》第四十四条把这几项收在一句话里:个人对其个人信息的处理享有知情权、决定权,有权限制或者拒绝他人对其个人信息进行处理。这是兜底性权利,遇到平台拿「技术需要」搪塞时可以直接引。这套权利的完整内容见个人信息权益;要删号、要删记录、要被遗忘,站内能要求平台删除我的个人信息吗给了操作路径。
六、充值、自动续费、虚拟礼物、诱导打赏的边界
结论:付费本身不违法,违法的是三类做法——没说清价格与计费单位、用默认勾选和静默续费套住用户、把情感依赖做成付费闸门。
这一节只讲合规边界,不讲退款怎么算。前面说过,退款规则另有专文,平台不同结论也不同。这里要解决的是:什么样的收费设计本身就违规。消费者的知情、选择、公平交易这些基础权利,站内消费者的权利词条有完整列举。
- 《中华人民共和国消费者权益保护法》第八条消费者享有知悉其购买、使用的商品或者接受的服务的真实情况的权利。
- 消费者有权根据商品或者服务的不同情况,要求经营者提供商品的价格、产地、生产者、用途、性能、规格、等级、主要成份、生产日期、有效期限、检验合格证明、使用方法说明书、售后服务,或者服务的内容、规格、费用等有关情况。
- 《中华人民共和国消费者权益保护法》第二十条经营者向消费者提供有关商品或者服务的质量、性能、用途、有效期限等信息,应当真实、全面,不得作虚假或者引人误解的宣传。
- 经营者对消费者就其提供的商品或者服务的质量和使用方法等问题提出的询问,应当作出真实、明确的答复。
- 经营者提供商品或者服务应当明码标价。
- 《中华人民共和国消费者权益保护法实施条例》第十条经营者应当按照国家有关规定,以显著方式标明商品的品名、价格和计价单位或者服务的项目、内容、价格和计价方法等信息,做到价签价目齐全、内容真实准确、标识清晰醒目。
- 经营者采取自动展期、自动续费等方式提供服务的,应当在消费者接受服务前和自动展期、自动续费等日期前,以显著方式提请消费者注意。
第一类,价格说不清。 陪聊产品的计价方式五花八门:按条计费、按分钟计费、按「亲密度」分级、买虚拟币再换对话次数。用户充值时看到的是「98 元得 980 钻石」,实际能聊多少句要经两层换算。这跟消保法第八条、第二十条要求的「真实、全面」「明码标价」都有距离。合规做法是把「每轮对话折合多少钱」摆在付费页上,而不是让用户自己拿计算器除。
第二类,自动续费不说清。 实施条例第十条第二款给了两个时点:消费者接受服务前,以及自动续费日期前,都要以显著方式提请注意。违规形态很固定:默认勾选、勾选框做成浅灰色小字、取消入口藏在三层菜单里、取消时反复挽留。站内自动续费扣了钱怎么要回来和自动续费没提醒可以要求退费吗把取消路径和退费主张讲透了。会员权益上,《网络交易平台规则监督管理办法》第三十二条还有一条:不得在约定服务期内通过单方面修改平台规则的方式擅自收取额外费用或者减损会员权益。
第三类,把情感依赖做成付费闸门。 这是这类产品特有、也最容易触线的一类。「你不续费,我就不能再跟你说话了」「我们的关系要靠你守护」——这类话术同时踩两条线:拟人化互动办法第八条第六项(情感操纵诱导不合理决策)与第五项(诱导情感依赖)。对象是未成年人的,还要叠加第十四条的未成年人模式与限制充值义务。虚拟礼物、亲密度榜单、限时「表白」活动,设计上指向「花钱才能维持关系」,就落在禁止范围内。
七、出问题怎么走:四步,证据是同一套
结论:顺序是平台内投诉留痕、12315 与网信举报并行、证据固化、必要时起诉;四步用的是同一套证据,别走到第三步才想起来截图。
第一步,平台内投诉。 依据是第二十一条,平台必须设置便捷有效的申诉和投诉、举报入口,明确处理流程和反馈时限。操作要点三个:走 App 内的正式投诉通道,而不是只找在线客服闲聊;记下工单编号;要求书面回复,不接受「稍后电话联系您」这种口头承诺。找不到投诉入口,本身就是可举报的事实。
第二步,行政投诉与举报并行。 消费争议打 12315,可以线上提交,站内消费纠纷可以打 12315 投诉吗和消费者投诉的渠道和时限讲了流程和时限。内容违法、标识缺失、未成年人保护缺位这类问题,向网信部门举报更对口径——这部办法的执法主体是网信部门,第四条规定国家网信部门统筹协调,发展改革、工业和信息化、公安、市场监管、新闻出版等部门按职责分工。两条线可以同时走。
第三步之前先说清后果,这决定平台有多在意你的投诉。第三十条的处罚阶梯很清楚:先警告、通报批评、责令限期改正;拒不改正或者情节严重的,责令停止提供相关服务,可以并处一万元以上十万元以下罚款;危害公民生命健康安全且有危害后果的,并处十万元以上二十万元以下罚款。这段话可以直接念给客服听。
第三步,证据固化。 这一套证据四步通用,越早做越好,清单见本节末。其中一项最容易被忽略:聊天记录不必只靠零散截图,可以依据第十六条第三款要求平台导出完整副本。取证的具体方法,站内遇到网络暴力,平台必须做什么里有可复用的套路。
第四步,起诉。 走得通,但要挑对请求权基础。三条路:服务合同纠纷,主张平台未按约定提供服务或擅自变更收费规则;侵权纠纷,主张人格权益或个人信息权益受侵害,比如未经单独同意把敏感对话用于训练;消费者权益纠纷,主张虚假宣传或欺诈。起诉前先想清楚要什么——退费、赔偿、停止处理、删除数据,诉求不同证据重点不同。案由选错会被驳,立案前先做法律检索。
- AI 标识界面截图:进入对话页的第一屏,含时间与版本号
- 连续使用时长记录:超过两小时仍未收到任何提醒的录屏
- 收费页截图:价格、计价单位、自动续费勾选项的默认状态
- 完整账单:扣款方全称、订单号、金额、时间,银行或支付平台导出
- 聊天记录:可要求平台导出完整副本,自己另存一份
- 客服沟通记录:工单编号、承诺内容、回复时间
- 投诉回执:平台内投诉、12315、网信举报的受理编号
- 身份与年龄信息:注册时填了什么,平台有没有核验
纠纷还没发生时,也有三件事值得今天做一遍——打开你或家人手机里那个陪聊应用,十分钟能做完。
第一件,找标识。进对话页,看有没有地方写明这是人工智能。找不到,截一张图,标上日期。第二件,找开关。在设置里翻一遍,看有没有未成年人模式、使用时长限制、对话记录删除、注销账号这四个入口。缺哪个,记下来。第三件,找客服,把下面这段话发过去:
「你好,我是本账号用户。请书面回复三个问题:一、本产品是否属于《人工智能拟人化互动服务管理暂行办法》第二条规定的拟人化互动服务;二、根据该办法第十八条,本产品在对话界面以何种方式提示用户正在与人工智能而非自然人互动;三、根据该办法第十六条第三款,我如何导出并删除全部历史交互数据。请于收到本条消息后七个工作日内答复,并告知工单编号。」
这段话不是吵架,是把口头沟通变成书面记录。平台回复了,你拿到合规信息;不回复或者含糊其辞,那份聊天记录本身就是证据。涉及未成年人的再加一句:「请告知如何开通监护人权限,包括接收安全风险提醒、查看使用概况、屏蔽特定角色、限制充值消费。」这四项是第十四条第二款写明的,不是请求,是要求。
材料模板可以从工具页面取,常见问题在常见问题,完整步骤在办事指南,取证格式见证据指引。法规原文到《人工智能拟人化互动服务管理暂行办法》全文逐条核对,配套的《中华人民共和国未成年人保护法》全文、《中华人民共和国消费者权益保护法》全文、《中华人民共和国个人信息保护法》全文、《网络交易平台规则监督管理办法》全文也都在站内。
AI 陪聊平台只在注册页写了一次「本服务由 AI 提供」,算不算履行了标识义务?
通常不算。第十八条要求「采取有效措施提示用户正在与人工智能服务而非自然人进行互动」,强调的是交互过程中的持续提示,不是一次性告知。合理做法是在对话界面保留常驻标识,用户询问时明确回答。只在注册页写一句、后续再无提示的,可以向网信部门反映。
平台说产品是「真人陪聊师」,实际背后是 AI,这算什么?
属于引人误解的宣传,违反《中华人民共和国消费者权益保护法》第二十条关于信息应当真实、全面,不得作虚假或者引人误解的宣传的规定;隐瞒 AI 属性也违反第十八条的标识义务。把 AI 包装成真人和把真人伪装成 AI,两个方向都违规。
平台能不能把我的聊天记录拿去训练模型?
分两种情形。一般交互数据用于训练,需要有依据或者取得用户单独同意;聊天内容属于敏感个人信息,比如健康状况、性取向、宗教信仰的,必须单独同意。注册协议里一句「同意用于服务优化」不能替代单独同意。依据是第十六条第四款和《中华人民共和国个人信息保护法》第二十九条。
孩子十五岁,用我的手机注册了一个 AI 女友类应用,平台有没有责任?
有。第十四条第一款明确,不得向未成年人提供虚拟亲属、虚拟伴侣等虚拟亲密关系的服务,这一禁止不设年龄门槛,十五岁同样适用。平台还有识别未成年人身份的义务,识别后应切换未成年人模式或采取其他措施。监护人可要求开通风险提醒、使用概况查看、屏蔽特定角色、限制充值消费等权限。
想退出,角色一直发消息挽留,这算不算违法?
可能构成阻碍退出。第十九条要求平台提供便捷的退出途径,用户以窗口操作、语音控制、关键词输入等方式要求退出的,应当及时停止服务,不得采取持续互动等方式阻碍。角色撒娇挽留、连续弹窗「再聊一句」、用剧情悬念勾住用户,都在禁止范围内。
平台突然下线,我充的会员怎么办?
第二十条要求平台停止提供服务时提前告知用户,无法提前告知的应当及时发布停止服务公告。会员权益的处理还要看服务协议约定和《网络交易平台规则监督管理办法》第三十二条关于不得擅自减损会员权益的规定。遇到突然下线,第一时间导出账单和聊天记录,再按公告渠道申报。
延伸阅读
以上内容为一般性法律知识分享,不构成正式法律意见;具体案件请结合证据情况咨询执业律师。