AI换脸诈骗,防不胜防?

2023-05-27 08:50:31 来源:新京报

打印 放大 缩小

短时间内曝光的两起AI换脸诈骗案,对今年以来持续火爆的AI技术发展无疑是一种警醒:未来令人“防不胜防”的AI换脸诈骗会否大规模爆发?又应如何防范这类诈骗?

新京报贝壳财经记者 罗亦丹 编辑 岳彩周


【资料图】

AI火了,骗子也来了!

近日,两起利用AI换脸实施诈骗的案例引发关注。继包头警方发布“福州市某科技公司法人代表郭先生10分钟内被人用AI换脸诈骗430万元”后,5月25日,安徽警方也通过当地媒体披露了一起类似案件,诈骗分子使用了一段9秒钟的智能AI换脸视频,佯装“熟人”,导致安庆经开区的何先生被诈骗245万。

短时间内曝光的两起AI换脸诈骗案,对今年以来持续火爆的AI技术发展无疑是一种警醒:未来令人“防不胜防”的AI换脸诈骗会否大规模爆发?又应如何防范这类诈骗?

5月25日,新京报贝壳财经记者采访反诈民警以及行业专家发现,目前使用AI换脸诈骗的案例并不多,同时在上述两起诈骗案中受害者均是先入为主认为发来视频的是朋友的社交账号才有了后续“AI换脸”的登场,因此源头上应先防止自己账号被盗用、警惕他人社交账号真伪。此外,AI技术的发展也确实降低了AI换脸的门槛,客观上降低了AI换脸诈骗的成本。

━━━━━

两起AI换脸诈骗有何共同点?

针对性诈骗,账号被盗是问题关键

新京报贝壳财经记者注意到,近期曝光的两起AI诈骗案例均属于针对性较强的“特定性诈骗”。在郭先生的案例中,“好友”通过微信视频联系他,表示自己的朋友在外地竞标,需要430万保证金,且需要公对公账户过账,想要借郭先生公司的账户走账。郭先生转账后拨打好友电话,才知道被骗。而在何先生的案例中,其微信“好友”突然向其发起视频通话,电话接通后,何先生看到“好友”正在一间会议室内,并借故会议有事,通过QQ要求周转资金,导致何先生被骗。

可以发现,在上述诈骗案例中,诈骗分子对受害者和其好友的身份、日常话术均有深刻了解,才能完成诈骗。此外,在伪造好友身份这一环,通过AI伪造视频只是增加可信性,但消息确实是从“好友”的微信号发来,才造成了受害者深信不疑。

电信专家付亮表示,在何先生的案例中,首先出现微信直接联系,然后转QQ号码直连,转账也未通过微信或QQ(绕开了腾讯的安全判定),“假冒QQ好友的诈骗手法快30年了,都没有用到AI,互联网快速发展,更多防护意识较弱的人成为网民,快捷的电子转账也为骗子提供了便利。两起案例中都是盗用账号诈骗,AI换脸只是辅助。”

民间互联网安全组织网络尖刀创始人曲子龙告诉新京报贝壳财经记者,此类AI换脸的诈骗手段都是定向针对性诈骗,而非传统意义上“广撒网,打打电话”的电信诈骗,往往干的也都是“大单”。源头上需要防止账号被盗用,不要轻易加陌生人,“也要防止其他人用小号加你,过一段时间改成你亲友,然后再实施诈骗。”

━━━━━

AI换脸诈骗不会大规模出现

有哪些方法可以识别对方是AI换脸?

5月25日,某沿海城市反诈专班民警对新京报贝壳财经记者表示,目前并未发现当地有使用AI冒充熟人作案的案例,主要是这种诈骗方式手段特殊,需要特定人群、还需要人脸数据等,要素比较多,因此不会大规模出现。

实际上,AI换脸技术早在2017年就已在网上流行,不论是使用女明星的脸替换成人影星的色情影片,还是为了娱乐使用自己的脸替换电影形象曾流行一时的App“ZAO”,使用的都是同一类技术。

如何识别对方是AI换脸?曲子龙表示,AI换脸目前在连续动作的实时渲染方面还是会存在技术缺陷,比如在说话的时候嘴部动作、眼部动作,如果仔细看都会存在一定的“不和谐”情况,如丢帧、嘴巴时大时小等问题。

有专家提示称,“AI假脸”的纹理特征存在破绽。例如,伪造后的视频人物的眼睛或牙齿轮廓细节容易不一致;两只眼睛瞳孔的颜色不一样或瞳孔中心反射的细节不一样;很多伪造视频由于视频分辨率低于原始视频,伪造出来的视频牙齿边缘过于整齐等。

新京报贝壳财经记者注意到,为了防止“穿帮”,一般诈骗分子不会长时间播放AI换脸的视频,如在何先生的案例中,诈骗分子只视频通话了9秒,就匆匆转到了文字聊天。

不过,一个现实问题是,随着AI技术的进步,AI换脸的门槛确实也越来越低。“以前AI换脸还需要一两百张图片,现在不同角度的照片,一般5到8张就可以生成很不错的模型了。”曲子龙说。

曲子龙坦言,“AI发展太快,想要防止脸被盗用太难了,尤其是一些公众人物、明星、网红,他们的照片很好获取。像微博、抖音、朋友圈,或者干脆去偷拍你几张高清照片,都能通过AI建模实现换脸。”

付亮对新京报贝壳财经记者表示,对于此类诈骗手法,主要要防范骗子通过微信或 QQ 假冒熟人(亲戚、朋友、客户)诈骗。一方面,有资金往来,应先电话确认;此外,把钱打到陌生账户,要反复确认;最后,一定切记,对面和你聊天的不一定是本人,可能是假冒的,甚至可能是机器人,不要轻易相信。

关键词:

责任编辑:ERM523

相关阅读

精彩推送

AI换脸诈骗,防不胜防? 河北大城县一派出所对烟花爆竹鉴定时发生爆炸,致4死2失联
肝功能不好,症状有哪些 帝国_今日热文
南财早新闻|C919明日商业首航;三亚天涯海角游览区6月1日起免费开放 2023中关村论坛开幕式上 10项重大科技成果发布 世界短讯
每日讯息!长城举报比亚迪会给汽车行业带来什么影响? 淘宝确认收货评价后还能申请退货退款吗_确认收货后退款麻烦吗
归国流量恋情三缺“艺”,会不会很快组团参加“爸爸去哪儿”?|当前通讯 每日速递:作为一个艺术从业者,想说艺术跟商业其实是完全不同的两个概念
重庆市藻渡水库主体工程开工 总投资101.23亿元,惠及343万人 十部门发文开展专项行动 提升中小企业科技创新力_环球精选
中国商务部部长王文涛会见美国贸易代表戴琪 今日看点:淘宝天猫“618”预售开启 互联网电商板块如何布局?
魔法留学生_关于魔法留学生简述 微资讯!“AI换脸”调查:“丢脸”同时暗藏“丢钱”风险 券商提示警惕高仿真诈骗手段
最资讯丨1904套安置房“屋”有其主 渤海湾首个千亿方大气田中心平台建成
紫晶存储适格投资者赔偿工作启动 10亿元先行赔付专项基金已就位 多城消费券发放加力 适用领域更广 全球微头条
全球快讯:一季度营收环比同比双降 网易云音乐为何降本也不增收? 产业资本积极布局二级市场
陕西黑猫因大幅溢价收购遭监管问询:控股股东是否存在不当控制情形-天天热讯 前4月新增减税降费及退税缓费4689亿元 进一步激发各类经营主体活力_环球今日讯
工信部副部长徐晓兰:集聚力量突破智能芯片、算法框架、大模型等智能产业的“根”技术 【环球新视野】05月26日科鲁尔丙烯腈为9600元
每天要吃多少水果?补多少维C?很多人都没做到-环球即时看 玉米种子哪个品种最好吃?-焦点资讯
焦点日报:皖通科技:5月18日召开业绩说明会,投资者参与 多城新房销售量下滑 6月是房企年中冲刺业绩的关键_环球动态
当前速看:什么是虹吸式雨水系统 保鲜膜属于什么垃圾应投入什么颜色的垃圾桶 保鲜膜属于什么垃圾|全球聚焦
苹果手机实况图片怎么设置 苹果手机实况图片怎么设置动态壁纸 全国高考成绩查询方法汇总2023 世界热消息
vuevlog怎么给视频换方向_快播报 当前观察:真盗梦空间!AI能将梦境转换成视频:85%准确率
当前热讯:证监会核准设立摩根士丹利期货(中国)有限公司 光猫接路由器怎么设置光猫(光猫接路由器怎么设置)_天天即时
天天微资讯!什么叫做素数_素数叫什么 50公里续航加持!小牛新国标电动车仅需2799元|滚动
世界快资讯:【AI简报202305269期】谨防AI诈骗!避免AI合成歌手的使用不侵犯个人知识产权 环球看热讯:安徽这座公铁大桥最新进展!
“丢脸”同时暗藏“丢钱”风险 券商提示警惕高仿真诈骗手段 每日快看:提前还房贷:都是理财惹的祸?
7月英文缩写大写怎么写_7月英文缩写 观焦点 今日讯!任天堂Switch销量下滑 《王国之泪》能否扭转颓势?
方华富:黄金低点防守,开始抄底多! 环球新要闻 一季度营收环比同比双降 网易云音乐为何降本也不增收?|环球观焦点
青年就业:从三因素框架看“疤痕效应”来自何处_微头条 长城举报比亚迪会给汽车行业带来什么影响?
系统小说书_系统小说1000章以上 环球短讯 菀怎么读拼音用于姓名 菀怎么读 环球速看
吃拿卡要读音_吃拿卡要-世界观速讯 环球微速讯:债券型基金吸引力上升基金经理对债市持相对谨慎观点
国乒遇冷门!世界第3再输日本,王艺迪出局,孙颖莎迎战早田希娜 今日聚焦 快资讯丨罗马数字纹身怎么设计 罗马数字纹身
李小鹏:组织开展交通强国建设邮政专项试点工作加快试点成果转化推广应用_天天播报 热文:拉杆箱密码忘了怎么办?密码锁怎么用?_拉杆箱密码锁忘记密码怎么办
中国商务部部长王文涛会见美国贸易代表戴琪-热资讯 德桥股份拟利用不超过1500万(含1500万)闲置自有资金投资二级市场自由买卖的股票
全球热点评!带着防爆叉、盾牌上门收费?物业公司回应:误会 国家水稻全产业链大数据平台已上线,推动产业信息化建设 环球热头条
112是什么电话是干什么的(112是什么电话) 如何正确存储和维护彩涂钢卷?
淄博市王村酿造厂(关于淄博市王村酿造厂介绍) 淄博康元卫生器材有限公司(关于淄博康元卫生器材有限公司介绍)
天天观天下!股票行情快报:浙江正特(001238)5月26日主力资金净卖出42.80万元 宽带包月多少钱_宽带包月_环球播报
格瑞凹凸世界 当前快报 缤智的内循环和外循环(缤智的内循环键旁边是什么键?) 世界速看
提升党组织战斗力和引领力,顺义区推动“小个专”党建与产业发展融合|视点 路虎车图片大全大图 路虎车
走进盐城黄海湿地,体验生物多样性之美|全球时快讯 入室弟子是什么意思_入室弟子
全面从严治党主体责任包括哪些_全面从严治党主要内容 全球看点:葫芦岛市气象局发布雷电黄色预警【Ⅲ级/较重】【2023-05-25】
美国4月PCE数据超预期 加息预期强劲限制黄金上涨空间 CorelDraw2020裁剪图片怎么弄 CorelDraw剪切图形操作介绍 天天新消息
“星耀峡江----2023宜昌市少儿书画展”周日开展 上菜喽! 首批“河北净菜”直通车到达北京市场
当前消息!“拧”成一股绳、扩大“朋友圈”——长三角企业携手推进绿色转型观察 三亚一刑释人员砍伤2人后潜逃:警方正搜捕,伤者已送医
暗黑2奶牛关合成不了_暗黑2奶牛关 百家融媒重庆行丨彭水阿依林海 藏在大山深处的“红豆杉王国”_天天播报
深泽县气象台发布雷电黄色预警【Ⅲ级/较重】【2023-05-25】 全球速看 全球头条:争优创先意思_争优创先还是争先创优
汇丰银行个人网上理财_汇丰银行商务网上理财 西安华夏文旅海洋公园六一儿童节跳蚤市场招募活动
元宝的寓意和含义是什么_元宝的寓意 贵州持续推动数字化融合改造
pwc审计是什么意思(pwc是什么公司)|看点 漫威杰克罗林斯是谁_史蒂夫罗杰斯 美国漫威漫画旗下超级英雄
系统教程篇:WIN2000系统下使用惠普hpCM1312扫描文件的方法 环球报道:披露国际布局思路,宝武集团还要推进旗下超20家企业混改上市
成都企业社保开户指南(线上+线下)-快报 世界观天下!全新雷克萨斯GX下月发布,取消V8或采用混动系统
【环球新要闻】气概激昂_气概 海南龙泉湖片区开发对接大健康产业 或新建医院_当前通讯
全球资讯:欧洲炎夏将至 阿里国际站上“能自己发电的空调”最抢手 证券期货业网络和数据安全实验室授牌