算法推荐的关闭问题,很多人找遍设置页面也找不到开关,以为平台根本没提供。真实情况是:法律明确要求平台必须提供不针对个人特征的选项或便捷的拒绝方式,找不到开关本身就是不合规。 本文讲清平台在算法推荐上负有哪些义务,用户被“算计”了能怎么办。
一、平台的四项法定义务
《个人信息保护法》对自动化决策给出了基础规则:
- 《中华人民共和国个人信息保护法》第二十四条个人信息处理者利用个人信息进行自动化决策,应当保证决策的透明度和结果公平、公正,不得对个人在交易价格等交易条件上实行不合理的差别待遇。通过自动化决策方式向个人进行信息推送、商业营销,应当同时提供不针对其个人特征的选项,或者向个人提供便捷的拒绝方式。通过自动化决策方式作出对个人权益有重大影响的决定,个人有权要求个人信息处理者予以说明,并有权拒绝个人信息处理者仅通过自动化决策的方式作出决定。
拆开看是四项义务:
- 透明:算法推荐的基本原理、目的意图和主要运行机制要公示,不能用一句“个性化服务”糊弄;
- 公平:不得在交易价格等条件上搞不合理差别待遇——这就是大数据杀熟的禁令来源;
- 可拒绝:推送、营销必须同时提供“非个性化”选项或一键关闭,关闭后不得降低服务质量作为报复;
- 可说明、可拒绝纯算法决定:比如信贷被机器拒批,用户有权要求人工解释,不能被“系统判定”一句顶回来。
2022 年 3 月 1 日施行的《互联网信息服务算法推荐管理规定》把这套规则落到了具体监管上:要求算法推荐服务提供者建立算法机理审核、科技伦理审查等管理制度,向用户提供不针对其个人特征的选项或者便捷的关闭算法推荐服务的选项;具有舆论属性或者社会动员能力的算法推荐服务提供者,还要履行算法备案手续。关闭选项必须是真实有效的——关了之后不能换个账号再“猜你喜欢”,也不能以关闭为条件收取额外费用。
电商场景还有一层平行要求:
- 《中华人民共和国电子商务法》第十八条电子商务经营者根据消费者的兴趣爱好、消费习惯等特征向其提供商品或者服务的搜索结果的,应当同时向该消费者提供不针对其个人特征的选项,尊重和平等保护消费者合法权益。电子商务经营者向消费者发送广告的,应当遵守《中华人民共和国广告法》的有关规定。
二、差别待遇的红线画在哪里
注意条文用词是“不合理的差别待遇”,不是一切区别对待都禁止。以下情形一般不算违规:
- 新用户优惠券、老会员积分权益——属于普遍性的促销或会员体系,新老用户都可依规则获得;
- 因设备、配送地址不同产生的实际成本差异(如偏远地区运费);
- 限时秒杀、库存尾货等真实供需差异。
真正越线的是:同样的商品、同一时间、同样的交易条件,仅因为系统判断“你买贵了也照买”“你换手机了就抬价”而对不同用户显示不同价格。这需要用户留存比价证据——不同账号、不同设备同时截屏,标价差异一目了然。具体的认定标准和维权步骤,站内已有专文讲透,见大数据杀熟:价格歧视怎么认定,怎么维权。
三、“关闭推荐”之后的常见操作坑
- 关闭入口藏得深:合规做法是在设置里有明确路径,藏在十几层菜单、命名成“兴趣管理”而无“关闭”字样,都可能被认定未提供便捷拒绝方式。
- 关闭后功能降级:法条要求“同时提供不针对其个人特征的选项”,即关闭后仍应能正常浏览、搜索、购买,不得提示“关闭后将无法使用”。
- 只关了推送没关画像:关闭推荐选项与撤回个人信息处理的同意是两回事,用户还可以另行行使删除权,把画像数据一并清掉。
利用个人信息进行自动化决策,在合规义务上还触发事前评估:
- 《中华人民共和国个人信息保护法》第五十五条有下列情形之一的,个人信息处理者应当事前进行个人信息保护影响评估,并对处理情况进行记录:(一)处理敏感个人信息;(二)利用个人信息进行自动化决策;(三)委托处理个人信息、向其他个人信息处理者提供个人信息、公开个人信息;(四)向境外提供个人信息;(五)其他对个人权益有重大影响的个人信息处理活动。
也就是说,平台不仅要给你开关,自己还得先写完影响评估报告。监管检查时拿不出报告,本身就是违规。
四、用户维权四步
固定界面证据
截屏保存推荐页面、找不到关闭入口的设置路径、比价页面,录屏更佳。
平台内投诉
通过 App 内投诉通道书面提出,要求提供非个性化选项或解释算法决策,保留投诉记录与答复。
监管投诉
向网信部门(12377)或市场监管部门(12315)举报,说明平台未提供关闭选项或存在差别待遇。
诉讼
因差别待遇造成多付款项的,可起诉要求退还差价;被纯算法决定拒批的,起诉要求平台说明并重新审查。
五、常见误区
- 误区一:关闭推荐就没人管我的数据了。 关闭只是停掉个性化推送,平台仍可依法在必要范围内处理个人信息,想清数据要另行行使删除权、注销权。
- 误区二:价格不同就一定能索赔。 必须证明差异发生在“相同商品、相同条件、不合理差别”情形下,促销时段、地区成本的差异会被抗辩掉。
- 误区三:算法备案了就免责。 备案是行政管理手续,出现差别待遇照样要承担民事责任。
六、问答
问: 平台把关闭选项放在“青少年模式”里算合规吗?
答: 不算。面向普通用户的便捷拒绝方式必须独立可得,藏在青少年模式或要求填写理由才能关闭的,都可能被认定为未提供便捷选项。
问: 被平台算法限流、降权,能主张权利吗?
答: 如果限流是“对个人权益有重大影响的决定”且拒绝你要求说明,可以主张透明度与说明义务;但平台基于内容违规的正常治理有较大裁量空间,要先排除自己确有违规情形。
问: 求职平台用算法自动筛掉简历,算重大影响决定吗?
答: 影响就业机会的自动化决策通常属于重大影响,求职者有权要求说明理由,并拒绝仅凭机器决定,平台应提供人工复核渠道。
平台算法还有一层面向劳动者的责任边界,相关派单与考核规则的要求见平台算法推荐能不能关掉;App 收集数据的删除与注销操作,见App 过度收集个人信息:怎么用删除权和注销权让 App 放手;想从源头管理画像数据,见不经同意也能用你的个人信息?六种合法情形与企业最容易踩的两个坑。
以上内容为一般性法律知识分享,不构成正式法律意见;具体纠纷请结合证据情况咨询执业律师。