达州市举报中心
DAZHOU INTERNET ILLEGAL AND HARMFUL INFORMATION REPORTING CENTER

【巴小虎说法】视频里的熟人 也可能是假的



典型案例


近日,福建省福州市一知名企业的法定代表人郭先生赶到内蒙古自治区包头市,将一面印有“反诈神速显警威 止损追赃暖民心”字样的锦旗,送到包头市公安局电信网络犯罪侦查局民警的手中,以表示感谢。

事情还要从4月20日说起。当天临近中午时分,身在福州市的郭先生意外接到了一位“至交好友”的视频通话信息,接通后,对方和郭先生视频聊天30秒后,说他马上就要开会了,不方便继续视频,可以跟他在微信上继续聊天。在聊天中,“至交好友”告诉郭先生,他的朋友在外地投标,需要430万元保证金,且需要对公账户过账,所以想要借用郭先生公司的账户走一下账。

随后,“至交好友”索要了郭先生公司的银行账号,称已经把钱转过去了,还把银行转账底单的“截图”通过微信发给了郭先生。因为时间马上到12时,对方说招标款12时之前必须到账,基于此前的视频聊天,郭先生没有核实对方这笔钱是否到账,于11时49分把430万元分两笔转账过去。

“对方从头至尾都没有和我提借钱的事情,当时是进行过视频聊天,我在视频中也确认了对方的面孔和声音,所以就没有怀疑。”郭先生说。

钱款打过去后,郭先生拿起手机给好友的微信发了一条消息,称“事情已经办妥”。但让他没想到的是,对方回复的消息竟然是一个“?”。

郭先生赶紧拨打了好友的电话,一问才知道自己竟然遇上了“高端”骗局,对方通过智能AI技术手段,佯装成好友对他实施了诈骗。

郭先生赶紧向福州市警方报案。警方经过调查,发现涉案的银行卡为包头市蒙商银行的对公账户,立即向包头市警方发出协查请求,并请包头警方进行紧急止付。

当天12时21分,包头市警方接到福州市公安局刑侦支队发来的协查请求后,包头市公安局电信网络犯罪侦查局立即启动“包头市警银联动绿色查询机制”,当班民警王军光拼速度、抢时间,以最快速度完成核查、报审,第一时间将涉案一级卡信息通报至蒙商银行相关部门。

仅用时10分钟,在银行的全力协助下,公安机关就将涉案账户内的336.84万元被骗资金拦截,并向福州市警方提供了剩余款项93.16万元资金的流出信息。目前,福州警方与包头警方正在全力追缴相应资金。

4月26日,在某银行的办公大楼内,一张336万元的现金支票,在包头市公安局电信网络犯罪侦查局及福州警方的见证下,由蒙商银行转交至郭先生的手里。随后,郭先生及福州警方将两面锦旗分别送至包头市公安局电信网络犯罪侦查局及蒙商银行负责人的手中。

据包头市公安局电信网络犯罪侦查局副局长李毅介绍,这是内蒙古自治区今年以来最大金额、最为快速的紧急止付案例。

警方提示说:随着AI换脸技术的迭代发展,公民一定要注重个人隐私保护。如有人自称“熟人”“领导”通过社交软件、短信以各种理由诱导汇款,务必通过电话、见面等途径反复核实确认,不要未经核实随意转账汇款,不要轻易透露自己的身份证、银行卡、验证码等信息。如不慎被骗或遇到可疑情形,请注意保护证据并立即报警。

(来源:公安部官网)




《互联网信息服务深度合成管理规定》


第六条 任何组织和个人不得利用深度合成服务制作、复制、发布、传播法律、行政法规禁止的信息,不得利用深度合成服务从事危害国家安全和利益、损害国家形象、侵害社会公共利益、扰乱经济和社会秩序、侵犯他人合法权益等法律、行政法规禁止的活动。

深度合成服务提供者和使用者不得利用深度合成服务制作、复制、发布、传播虚假新闻信息。转载基于深度合成服务制作发布的新闻信息的,应当依法转载互联网新闻信息稿源单位发布的新闻信息。

第十七条 深度合成服务提供者提供以下深度合成服务,可能导致公众混淆或者误认的,应当在生成或者编辑的信息内容的合理位置、区域进行显著标识,向公众提示深度合成情况:

(一)智能对话、智能写作等模拟自然人进行文本的生成或者编辑服务;

(二)合成人声、仿声等语音生成或者显著改变个人身份特征的编辑服务;

(三)人脸生成、人脸替换、人脸操控、姿态操控等人物图像、视频生成或者显著改变个人身份特征的编辑服务;

(四)沉浸式拟真场景等生成或者编辑服务;

(五)其他具有生成或者显著改变信息内容功能的服务。

深度合成服务提供者提供前款规定之外的深度合成服务的,应当提供显著标识功能,并提示深度合成服务使用者可以进行显著标识。

第十八条 任何组织和个人不得采用技术手段删除、篡改、隐匿本规定第十六条和第十七条规定的深度合成标识。


返回列表