【熊猫辟谣侠】识破AI虚构造假 击碎“有图有真相”网络谣言

2026-05-11 来源:http://www.scpiyao.org.cn/news/MTE1OTM1MDM=%7D/MTAw

当前AI技术飞速迭代、生成式工具全民普及,制作仿真图文、换脸视频等内容门槛大幅降低,为虚假信息炮制提供了技术便利。不法分子利用AI图像生成、视频合成及文本撰写等功能,批量炮制虚假内容,企图用“AI画皮”伪装“有图有真相”,严重污染网络生态,挑战法律底线。四川网信、公安及相关部门持续深化“清朗”系列专项行动,坚持“发现一起、查处一起”。现将5起案例予以通报,以作警示。

案例一:移花接木伪造火情,利用AI生成虚假火灾视频

2月25日,绵阳三台县公安局巡查发现,一网民在社交平台发布一房屋着火的视频,并将位置设置为“三台县·水观音”,引起广泛传播。经三台公安联动查实,三台籍男子李某刷手机看到外地房子着火的视频,遂截取该视频截图后使用某APP,通过AI生成了一段房屋火灾的虚假视频,并发布在社交平台。目前,相关虚假视频已删除,李某因故意虚构事实扰乱公共秩序已被公安机关行政处罚。(来源:绵阳市网络举报联合辟谣平台)

案例二:“吃椿芽”遭了?利用AI特效自编自导食品谣言

3月底,达州大竹公安在工作中发现,有网民在某短视频平台上发布了一段“漆芽”冒充“椿芽”导致其食用后出现严重过敏反应的视频,后迅速扩散,累计播放量达720余万次,引发部分群众担忧与恐慌。经大竹公安调查核实,网民赖某、邱某为达到引流效果,通过AI视频特效捏造事实,视频内容纯属二人自导自演,所陈述情况均属虚构。公安机关已依法对二人进行了法治教育,并作出行政处罚。(来源:“平安大竹”微信公众号)

案例三:借高考焦虑博流量,利用AI编造虚假高考数据

4月1日,资阳市委网信办巡查发现,有自媒体账号在抖音、视频号发布涉资阳市高考参考人数、本科上线率、特控上线率等相关信息,误导考生及家长判断,制造焦虑情绪,扰乱涉考网络传播秩序。经核查,发帖人为博眼球、赚流量,利用AI生成无权威来源的相关信息并进行发布。资阳网信办依法依规对发帖人进行约谈,严肃批评教育。目前,该账号发布涉高考不实信息全部下架删除。(来源:资阳观察)

案例四:刻意制造恐慌,利用AI合成楼房坍塌假视频

4月中旬,泸州网警巡查发现,一网民在某短视频平台发布一段“合江县楼房建设过程中突然倒塌,多名工人坠落”的视频,引发关注和恐慌。经查,何某某为博取眼球、吸引流量,使用AI制作虚假视频并配文发布,误导公众,扰乱网络秩序。目前,泸州警方已依法对何某某予以行政处罚。(来源:“泸州网警”微信公众号)

案例五:凭空杜撰灾害险情,利用AI编造隧道坍塌谣言

4月20日,一条关于“4月19日下午,雅康高速公路一隧道施工面发生坍塌”的文字消息和音频在网上流传。对此,甘孜应急部门回应未接到相关救援工作,交通部门核查后回应,雅康高速在建隧道施工正常,未发生垮塌事故,更没有施工人员被困,网传消息系凭空捏造,纯属造谣。甘孜网信办进一步核查发现,网传内容由AI生成。(来源:网视甘孜)

【熊猫辟谣侠剖析】

梳理上述五起典型案例,主要呈现以下三种典型套路:

1.捏造险情,扰乱公共安全。造谣者借助AI渲染剪辑,将无关图片或视频伪造为火灾、楼房坍塌等灾害场景,搭配定位与不实配文误导公众。

2.杜撰数据,干扰民生秩序。造谣者利用AI拼接碎片化信息,编造虚假“内部数据”或“独家消息”,借高考等民生热点制造群体焦虑,扰乱社会正常秩序。

3.自导自演,炮制生活骗局。造谣者依托AI特效伪造身体异常、食品变质等画面,杜撰食物中毒等夸张情节,博取流量点击与网络转发。

【法律提醒】

根据《中华人民共和国治安管理处罚法》第二十九条规定,故意散布谣言,谎报险情、疫情、灾情、警情或者以其他方法故意扰乱公共秩序的,处五日以上十日以下拘留,可以并处一千元以下罚款;情节较轻的,处五日以下拘留或者一千元以下罚款。请广大网民恪守法律底线,切勿利用新技术实施违法犯罪。