参考案例张某伟、陈某宇编造、故意传播虚假信息案
一、案情速览
张某伟、陈某宇合伙成立网络科技公司,二〇二三年五月起买来网络平台账号,让员工随意抓取热点新闻的标题关键词,用人工智能软件自动生成文案与合成视频,批量发布一万多条,其中虚假造谣视频二十余条、涉六省市,累计阅读观看超一百六十七万次;一条「浙江工业园大火」的假视频逼得多部门出面辟谣。
法院认定:利用人工智能自动合成险情、灾情、警情类虚假视频并在网络平台传播,严重扰乱社会秩序,构成编造、故意传播虚假信息罪;「严重扰乱」的判断综合发布数量、点击转发量、公共秩序影响与职能部门应对等因素。
二人各判有期徒刑一年一个月、缓刑一年六个月。规则确立:人工智能不是谣言的挡箭牌——机器写的、机器剪的,传播出去一样是犯罪。
二、裁判要点提炼
利用人工智能技术自动合成灾情、险情等虚假视频,在网络平台上传播,严重扰乱社会秩序的,以编造、故意传播虚假信息罪定罪处罚;技术工具的自动性不影响编造、传播故意的认定。
是否达到「严重扰乱社会秩序」的程度,应结合虚假信息的发布数量、点击转发量、对社会公共秩序的影响及相关职能部门采取的应对措施等因素综合判断;公司化、流水线式批量生产虚假信息的,起主要作用的经营者按主犯处罚。
三、赵律师点评
一条假视频的生产线
把这家公司的运营模式摊开看,就是一条谣言流水线。张某伟、陈某宇二〇二二年在山东滕州合伙成立网络科技公司,一个管整体运营、一个管技术开发。二〇二三年五月起,陈某宇购买多个网络平台账号分给公司工作人员使用;员工们的工作流程是:随意选取网络热点,复制热点新闻的标题与关键词输入软件,由人工智能自动生成文案,再放进创作软件自动合成视频,最后把视频与图文集发布到平台赚取流量。累计发布一万多条,其中虚假造谣视频二十余条,波及浙江、湖南、上海、四川、贵州、河北等地,累计阅读观看量超过一百六十七万次。压垮他们的是那篇《浙江工业园现场大火浓烟滚滚,目击者称有爆炸声!》——纯属编造,却造成恶劣社会影响,相关职能部门不得不在多个平台辟谣。判决结果:二人各判一年一个月、缓刑一年六个月。
人工智能合成谣言的刑法定位
本案是人工智能谣言入罪的标杆判例,定性逻辑值得细读。《刑法》第二百九十一条之一第二款规定的编造、故意传播虚假信息罪,对象限于虚假的险情、疫情、灾情、警情——本案的「工业园大火」假视频正落在灾情、险情的射程内。辩护可能的突破口是「机器生成的不是编造」,法院正面回应:人工智能技术自动合成不改变行为的编造属性——输入什么标题关键词、选择什么模板风格、决定发布与否,全由人在操控,工具越自动,人的操控意志越清晰。传播故意的认定同样顺理成章:批量发布一万多条、二十余条虚假视频,规模本身就是「明知虚假仍传播」的铁证。给内容创业者划出红线:蹭热点可以,编造险情灾情警情类视频绝不可以——流量平台的推荐机制越高效,谣言的杀伤半径越大,刑法的反应也越直接。
「严重扰乱社会秩序」的四把尺子
构罪与否的分水岭在「严重扰乱社会秩序」这个要件,本案裁判要点给出了四把尺子。第一把,发布数量:二十余条虚假视频、一万余条整体发布量,反映谣言生产的规模化。第二把,传播量级:累计阅读观看超一百六十七万次——单项指标是否单独构罪可以讨论,但量级是扰乱的直接证据。第三把,公共秩序影响:虚假火灾视频会引发当地群众恐慌、干扰企业正常经营、消耗社会信任。第四把,职能部门应对:多个平台的官方辟谣动作,说明谣言已实际占用公共治理资源——辟谣成本本身就是扰乱后果的量化。四把尺子的综合判断方法,把此前模糊的标准操作化了。给平台方也提个醒:对批量生成、高度模板化的灾情类内容,建立识别与限流机制,既是履行主体责任,也是在帮用户规避刑事风险。
流水线造谣的组织责任
本案还有一层组织维度的意义:二人被认定为主犯,按所参与的全部犯罪处罚,员工另案处理。公司化的谣言生产中,出资、建号、定流程、管分发的人是链条的发动机,即便不亲手生成每一条内容,也要为整条流水线的产出负责——这是共同犯罪理论在流量经济里的自然延伸。给打算入局「自媒体矩阵」的创业者三句忠告:其一,选题由算法抓取不等于内容责任可以外包,发布前的真实性审核义务始终在自己;其二,用他人账号、买号分发,既违反平台规则,也让「不知情」的抗辩失去可信度;其三,缓刑不等于轻纵——本案虽判缓刑,但犯罪记录、行业禁入、平台封禁的连锁后果足以终结一家内容公司的生命线。技术给了每个人印刷机,刑法给了印刷机一台秤:编出来的每一次「大火」,都要用自由与信用称重。
复制标题、机器写稿、自动剪片、批量发布——一万多条内容里混进二十多条假灾情,换来两个缓刑判决与一条行业铁律。人工智能生成的是视频,承担刑责的是人。蹭热点的尽头,不能是编造的火场。
四、判决书全文(点开阅读 · 发布前已做脱敏核查)
2022年10月,被告人张某伟、陈某宇在山东省滕州市合伙成立某网络科技有限公司,张某伟负责公司整体运行,陈某宇负责公司技术开发。2023年5月以来,陈某宇在网上购买多个某网络平台账号供公司内部工作人员王某滕、徐某等人(均另案处理)使用,上述人员随意选取网络热点,复制热点新闻的标题、关键词并输入到某软件中由AI自动生成文案,后将该文案放入某创作软件中自动生成AI视频,并将合成的视频、图文集1万余条发布至某网络平台上供人浏览。其中,虚假造谣视频20余条,涉及浙江、湖南、上海、四川、贵州、河北多地,累计阅读观看量超过167万次。其中,《浙江工业园现场大火浓烟滚滚,目击者称有爆炸声!》造成恶劣社会影响,对此相关职能部门在多个平台进行辟谣。
浙江省绍兴市上虞区人民法院于2023年11月6日作出(2023)浙0604刑初735号刑事判决,以编造、故意传播虚假信息罪分别判处被告人张某伟、陈某宇有期徒刑一年一个月,缓刑一年六个月。宣判后,没有上诉、抗诉,判决已发生法律效力。法院生效裁判认为:被告人张某伟、陈某宇利用AI技术编造虚假的险情、灾情、警情,在网络平台上传播,严重扰乱社会秩序,其行为已构成编造、故意传播虚假信息罪。张某伟、陈某宇在共同犯罪中起主要作用,是主犯,应当按照其所参与的全部犯罪处罚。根据二被告人的犯罪情节、性质及认罪、悔罪表现,可依法适用缓刑。故法院依法作出如上裁判。
1.利用AI技术自动合成灾情、险情等虚假视频,在网络平台上传播,严重扰乱社会秩序的,应当根据刑法第二百九十一条之一第二款的规定,以编造、故意传播虚假信息罪定罪处罚。
2.对于是否达到“严重扰乱社会秩序”的程度,应当结合虚假信息的发布数量、点击转发量、对社会公共秩序的影响及相关职能部门采取的应对措施等因素进行综合判断。
相关案例
- 罗某某妨害公务案(妨害公务罪|(2023)桂14刑终206号)
- 先某川非法侵入住宅、盗窃案(非法侵入住宅罪|(2023)川0522刑初212号)
- 上海某芙娱乐有限公司诉丁某企业承包经营合同纠纷案(企业承包经营合同纠纷|(2023)沪02民终9839号)
延伸阅读(站内文章)
继续浏览案例库
案号:(2023)浙0604刑初735号 审理法院:绍兴市上虞区人民法院 裁判日期:2023-11-06
来源:人民法院案例库参考案例(入库编号:2024-18-1-266-001)。
本文案情与裁判要点依据公开裁判文书整理,点评部分为律师个人实务意见。
免责声明:本页内容仅为一般性法律信息分享,不构成对具体案件的法律意见。个案情况差异较大,遇有具体法律问题请携带材料咨询律师,以律师正式意见为准。