“AI换脸”诈骗?新技术建起安全屏障 “AI火眼”5秒识破“AI换脸”
中国移动展区,AI换脸工作人员介绍AI换脸与实时鉴伪技术。诈骗障
如何快速识别AI换脸变声诈骗,新技深度鉴伪让AI换脸诈骗无处遁形。术建识破如何为“一老一小”构建安全通信环境,起安全屏AI技术强力反制电信诈骗。眼秒昨日,AI换脸2024年国家网络安全宣传周正式拉开序幕,诈骗障网络安全博览会也同步举行。新技记者现场采访多位业内行家,术建识破探营博览会数据安全、起安全屏个人信息保护、眼秒网络安全产品与服务等展区,AI换脸了解网络新技术新应用,诈骗障看“黑科技”如何筑牢网络安全屏障。新技
文/广州日报全媒体记者叶作林、侯翔宇
图/广州日报全媒体记者杨耀烨、莫伟浓、吴子良
人脸“移花接木”李鬼变李逵
人工智能技术带来了发展和机遇,也带来了风险和挑战。如今,利用“AI换脸”“AI换声”等虚假音视频进行诈骗、诽谤的违法行为已不少见。早在去年,中国互联网协会便曾发文提示“AI换脸”新骗局。
在天融信科技集团股份有限公司展位,助理总裁张博向记者详细展示了AI换脸过程和原理,并对如何防范AI换脸诈骗提出建议。展位前,摄像头正捕捉一名工作人员的面部变化,与此同时,出现在屏幕上的却是另一张脸,两者表情变化几近一致。“只需要输入一张正面静态图片,借助人工智能技术,便可以实时‘移花接木’。”
他进一步介绍,AI换脸的3大步骤原理:面部识别追踪、面部特征提取、面部变化融合。“整体的原理是通过计算机深度学习,精准识别人脸图像,然后提取眼睛、鼻子、嘴巴等重要的面部特征,把这些特征与目标人脸图像进行匹配、替换和融合。”
如今“AI换脸”技术已经比较成熟,甚至能够实现视频通话的实时换脸,虽然单凭肉眼很难分辨,不过张博指出,只要稍加留心,“AI换脸”还是有明显破绽,“马脚”就在面部轮廓和光线。“如果接收到视频信息、视频通话,要仔细观察对方的面部轮廓是否存在异常的模糊,光线是否正常。”张博说道,“如果有必要的话,可以要求对方快速大幅度地抬头、点头,转头,然后来仔细观察这个过程当中,面部轮廓是否有异常模糊。”
不过张博指出,防止网络诈骗还是要从上游入手,首先要防止个人信息的过度外泄。“需要采集面部信息的场景,市民群众还是需要额外留心网络环境和周围环境。”在遇到疑似AI换脸的场景中,可以选择通过更加直接的方式,比如说给当事人打个电话,确认对方身份是否真实。
用“魔法”打败“魔法”深度鉴伪5秒辨真假
“AI换脸”逐渐成为一种新型的诈骗手段,伪造的内容难以被肉眼分辨出来。如何精准识别“AI换脸”成为一个亟待解决的问题。
在中国移动展位的现场,一个AI换脸视频被实时鉴伪技术精准识别为伪造,整个过程仅需5秒左右。深度合成换脸实时鉴伪体验区吸引了许多观众的围观,纷纷上手体验深度验鉴伪技术。“我们先是模拟诈骗分子AI换脸的过程,再去反向学习技术,进而升级迭代反制系统。”中国移动信息安全与管理运行中心副经理王晓晴介绍,中国移动在实名入网业务上开展了试点应用,基于鉴伪技术可实时检测实名验证过程中的AI人脸,主动防范AI换脸线上开卡、补卡等风险发生,鉴伪的精确率达90%以上。
“一旦辨别为AI人脸就会弹窗警告,提醒相关用户存在的风险。”王晓晴表示,深度鉴伪技术还将在5G新通话等业务场景中试点应用,对新通话内容进行伪造检测、内容有害检测等,及时发现涉诈有害风险,有效防范涉诈等违法违规事件。
不仅如此,深度鉴伪技术还可为多业务场景赋能,包括金融行业中人脸认证环节检测AI人脸、互联网行业进行AI人脸检测及有害内容审核等。王晓晴表示,我们希望通过技术优化迭代能够赋能各行各业的发展,也能为AI技术发展筑起一道安全的铜墙铁壁。
精准识别25种骗局让“一老一小”安心通话
老年人和未成年人获得信息的渠道相对较为单一,对各种骗术了解不多,容易成为诈骗分子“下手”的对象。如何为“一老一小”构建安全通讯环境?通过通讯技术手段拦截电信网络诈骗电话或许是一种新的尝试。
记者在中国移动展位看到,一位观众体验名为羲和·防诈卫士的全场景防诈服务,运用这一服务远程临时停机用户家人的手机,防止诈骗电话继续轰炸。“当‘一老一小’接到诈骗电话轰炸时,用户可以给他的家人进行远程微停机——停机期间无法上网、没有通话功能,让骗子无从下手。”王晓晴介绍,该项服务通过AI自动检测到用户家人接听疑似诈骗电话时,将自动向用户及家人发送必达通知,实现识别预警。若家人处于通话中并未看到提醒消息,用户可向家人发送语音预警,直接在当前来电中插播语音提醒。同时用户可以远程临时停机家人的手机,防止诈骗电话继续轰炸。
“该系统是融合号、卡、消息、通话、大数据、AI、防诈险等资源禀赋和特色能力,一站式提供智能识诈、智能预警、智家联动的全场景防诈服务。”王晓晴表示,这一服务提供25种骗局套路文本的识别,目前准确率达到99%。
如何识别“换脸骗局”
如果接收到视频信息、视频通话,要仔细观察对方的面部轮廓是否存在异常的模糊,光线是否正常。
如果有必要的话,可以要求对方快速大幅度地抬头、点头,转头,然后来仔细观察这个过程当中,面部轮廓是否有异常模糊。
防止网络诈骗还是要从上游入手,首先要防止个人信息的过度外泄。
在遇到疑似AI换脸的场景中,可以选择通过更加直接的方式,比如说给当事人打个电话,确认对方身份是否真实。
(责任编辑:休闲)
-
9月7日,迪卡侬广州“跳绳小达人”青少年跳绳比赛在荔湾区领展广场顺利举办。据悉,本次活动首次落地广州,由广州市荔湾区文化广电旅游体育局指导,迪卡侬广州)体育用品有限公司主办,广州市跳绳协会承办,并得到 ...[详细]
-
助力企业“绿产”变资产 全国首单碳资产证券化产品在深交所成功挂牌
羊城晚报全媒体记者 李艺戈7月24日,由深圳担保集团有限公司以下简称“深担集团”)、深圳市生态环境局、南山区金融发展服务中心、深圳排放权交易所以下简称“排交所”)共同打造的“碳金融”深圳新模式——“深 ...[详细] -
7月30日下午3时,广东省新闻办举行新闻发布会,介绍中国广东)自由贸易试验区成立九周年建设成果观看直播)。成立九年,广东自贸试验区“成绩”如何?一组海报带你了解!南方网、粤学习记者 杨政芳设计 陈伟红 ...[详细]
-
文/羊城晚报全媒体记者 柳卓楠图/羊城晚报全媒体记者 钟振彬“500天是冲锋号、是动员令、是决战书,我们一定能够把本届运动会办出特色、办出风格、办出精彩!”7月26日是全国第十二届残疾人运动会暨第九届 ...[详细]
-
文/羊城晚报全媒体记者 严艺文 通讯员 胡庆秋 魏倩 林欣杰图/通讯员提供9月4日,羊城晚报全媒体记者从广州地铁集团广东城际运营公司获悉,自2024年1月23日广肇城际佛肇段、广惠城际莞惠段正式接管以 ...[详细]
-
韩江发生2024年第5号洪水,广东水利防汛应急响应提升至Ⅲ级
文/羊城晚报全媒体记者 胡彦 通讯员 粤水轩7月27日17时,台风“格美”位于湖北省黄石市境内,为热带风暴级。据预测,“格美”将向偏西方向缓慢移动,强度逐渐减弱。记者从广东省水利厅获悉,受台风“格美” ...[详细] -
文/羊城晚报全媒体记者 董柳 通讯员 全小晴 刘卉英雄烈士的名誉不容丑化、诋毁、亵渎!今天7月30日),广东省高级人民法院发布一批维护国防利益和军人军属合法权益典型案例,首次披露了叶挺烈士遭自媒体文章 ...[详细]
-
《暴风》《四海》《隐秘的角落》……这些耳熟能详的影视作品都曾在广东取景岭南早已不是“流放”之地而是“流行”之趋复古、运动、悬疑风拉满来广东迅速get荧幕同款吧~《暴风》电影全程在汕头实景拍摄里面还原了 ...[详细]
-
可能成为2015年以来首个登陆广东的超强台风羊城晚报讯 记者梁怿韬,通讯员杨国杰、郝倩楠报道:今年第11号台风“摩羯”在9月4日深夜增强为超强台风后,9月5日白天中心附近风力进一步升至17级。结合中央 ...[详细]
-
“喜欢吃荔枝的,欢迎进入‘锦一农心’直播间!”“一箱箱三华李果色鲜艳、果肉饱满,你是不是也想加入,一起感受丰收的喜悦。”“今天天气好,我又来果场采摘花稔果啦!”……“锦一农心”视频号截图位于从化区江埔 ...[详细]