首页 -> 财经 > 财经 > 正文

AI换脸诈骗430万元 马上消费专家提三点防御措施

    来源: 财经网  2023-05-26 09:54:09

近日,包头市公安局公布福州市某科技公司法人代表郭先生因为AI换脸,10分钟内被骗430万元的案件引发对人工智能安全的广泛热议。

对此,马上消费人工智能研究院智能核身专家冯月表示,"活体防伪、中介识别等技术的核心功能便是能够避免人脸识别的自身缺陷,有效识别照片、视频、面具、仿真模型等,特别是本事件中出现的换脸、变声欺诈行为。"


【资料图】

对于AI带来的潜在风险,"AI教父"辛顿在接受《纽约时报》采访时曾如此表示,"相较于气候变化,AI可能对人类的威胁‘更紧迫’。"

结合现实,此言并非"危言耸听"。在AIGC以迅雷之势掀起AI发展新起点的同时,潘多拉魔盒中的"恶"已在逐步显现。

防范技术之"恶":眼见不一定为实

据"平安包头"微信公众号消息近日显示,包头市公安局电信网络犯罪侦查局发布一起电信诈骗的案件,福州市某科技公司法人代表郭先生10分钟内被骗430万元,幸运的是336.84万元被骗资金已经被拦截,而其中用到的便是"智能AI换脸和拟声技术"。他们是怎么做到的呢?

这是一个复杂的过程,从新闻本身看,受害人郭先生的视角里主要是被换脸技术和拟声技术所欺骗,但事件背后可能还暗含了一些其它条件,比如犯罪分子是通过什么渠道与受害人建立的联系、如何获取的相关社交软件的账号、如何知道他需要冒充谁、如何获取对应的图像和声音物料、以及如何挑选被害人。

如果我们聚焦到换脸技术和拟声技术两个关键问题上,它主要的难题就是基础数据的获取、训练框架、实时渲染三项。数据层面上,从社交媒体等社工库可以获取冒充对象的影音信息,亦或者是从丢失的黑产手机的相册、聊天记录中提取。训练框架上,目前国内几个主流的短视频平台的剪辑软件中都支持换脸特效,并且没有警示信息,国外的开源框架中合成方法超过30种。在实时渲染上,通过对手机刷机、安装侵入软件等攻击操作也可以实现劫持渲染。

因此,"眼见不一定为实",技术背后总有处心积虑之"恶",不可不防。

防患于未然,用"魔法"打败"魔法"

风险不可避免,又该怎样利用"魔法"打败"魔法"?

目前,许多金融机构已有相关的落地举措与相关技术应用。比如活体防伪、中介识别等技术在金融业务场景中也已得以应用。

"活体防伪、中介识别等技术的核心功能便是能够避免人脸识别的自身缺陷,有效识别照片、视频、面具、仿真模型等,特别是本事件中出现的换脸、变声欺诈行为。"马上消费人工智能研究院智能核身专家冯月表示,"马上消费金融基于此类技术创新,目前能够做到将99%的批量欺诈攻击拦截在外,有效防范伪造信息、中介代办、伪冒申请、多头借贷、电信诈骗等风险。"

相较于处于整体环节末端的金融机构,更前一步的,社交软件有义务引入鉴伪机制,并实时对用户进行通话鉴真提醒,标记对端用户是否有行为异常、图像伪造异常、声音伪造异常。更早的风险提示信息,可以更有效地阻隔风险结果的发生。

除平台方面的相关落地,公众也可以采取一些自救措施,目前有一类技术可以保障用户的数据不被用于换脸、变声,这类技术叫对抗样本技术。以人脸图像为例,通过对该图像混入肉眼不可见的对抗扰动蒙版,可以使换脸技术失效。用户可以使用该类技术对自己社交媒体公开的图像、语音等媒体信息进行对抗保护后再公开。

最后,"防范意识"是一切"魔法"的基石,公众也需加强对于个人物品、信息的安全性保护。

"不要随便点击不明的短信链接、邮件链接等,不随意扫描不明来源二维码、下载APP,不轻易提供人脸等个人生物信息给他人,不轻易透露自己的身份证、银行卡、验证码等信息,不过度公开或分享动图、视频等。"冯月建议。"无法保证手机等移动设备不丢失,可以在平时定期清理微信聊天记录,具有亲近关系的人隐藏相关痕迹,将手机相册加密、或者启动手机的数据保护功能等,这些日常行为都有可能将诈骗拦截在外。"

久久为功、循序渐进。防范人工智能技术被"恶用",仍将是数字化时代下的核心课题。

本文系企业供稿

(编辑:许楠楠)

标签:

【免责声明】

1、凡本网注明出处非(巨潮财经网)的作品,均转载于自其它媒体,并不代表本网赞同其观点和对其真实性负责,目的在于信息的传递,本网不承担稿件侵权行为的连带责任,如对稿件有质疑请与本网客服联系。

2、刊发此文目的在于传递更多信息,文章内容仅供参考,不构成投资建议,投资者据此操作,风险自担。

3、如涉及作品内容、版权等其它问题,请在15日内联系本网客服。

阅读延展

AI换脸诈骗430万元   马上消费专家提三点防御措施

AI换脸诈骗430万元 马上消费专家提三点防御措施

近日,包头市公安局公布福州市某科技公司法人代表郭先生因为AI换脸,10分钟内被骗430万元的案件引发对人工

2023-05-26 09:54:09

消息称三星已组建开发团队,以量产4F2结构DRAM

消息称三星已组建开发团队,以量产4F2结构DRAM

财经网科技5月26日讯,据知情人士透露,三星电子近日在其半导体研究中心内组建了一个开发团队,以量产4F2结

2023-05-26 09:43:56

二手房挥泪降价仍难卖?北京挂牌近12万套再创新高,5月成交继续滑坡

二手房挥泪降价仍难卖?北京挂牌近12万套再创新高,5月成交继续滑坡

本报记者董红艳李贝贝北京报道北京楼市成交量上的疲软已经传导到了价格上面。记者了解到,今年4月底,北京

2023-05-26 09:46:32

天天快消息!杭州热电涨停“10天9板” 发布公告称无应披未披事项

天天快消息!杭州热电涨停“10天9板” 发布公告称无应披未披事项

每经记者黄鑫磊每经编辑梁枭5月25日,杭州热电(SH605011,股价37 41元,市值149 68亿元)再度涨停,实现 "

2023-05-26 09:35:27

天天实时:巴龙集团、巴龙建设所持青农商行7885万股股份拍卖,起拍总价超2亿元

天天实时:巴龙集团、巴龙建设所持青农商行7885万股股份拍卖,起拍总价超2亿元

每经记者宋钦章每经编辑陈星5月24日,青农商行(SZ002958,股价2 8元,市值156亿元)公告披露,股东巴龙国

2023-05-26 08:33:33

最近更新

AI换脸诈骗430万元   马上消费专家提三点防御措施

AI换脸诈骗430万元 马上消费专家提三点防御措施

近日,包头市公安局公布福州市某科技公司法人代表郭先生因为AI换脸,10分钟内被骗430万元的案件引发对人工

2023-05-26 09:54:09

消息称三星已组建开发团队,以量产4F2结构DRAM

消息称三星已组建开发团队,以量产4F2结构DRAM

财经网科技5月26日讯,据知情人士透露,三星电子近日在其半导体研究中心内组建了一个开发团队,以量产4F2结

2023-05-26 09:43:56

因涉嫌数据泄露 特斯拉在欧洲接受调查 全球热资讯

因涉嫌数据泄露 特斯拉在欧洲接受调查 全球热资讯

财经网汽车5月26日讯由于可能存在的数据隐私问题,特拉斯接受德国和荷兰当局的调查,据悉涉及该公司的自动

2023-05-26 09:34:34

二手房挥泪降价仍难卖?北京挂牌近12万套再创新高,5月成交继续滑坡

二手房挥泪降价仍难卖?北京挂牌近12万套再创新高,5月成交继续滑坡

本报记者董红艳李贝贝北京报道北京楼市成交量上的疲软已经传导到了价格上面。记者了解到,今年4月底,北京

2023-05-26 09:46:32

天天观天下!新政丨南京:购买二套房公积金贷款取消首套房总面积上限标准

天天观天下!新政丨南京:购买二套房公积金贷款取消首套房总面积上限标准

财经网讯5月25日,南京住房公积金管理中心发布关于对《关于调整部分住房公积金政策的通知》的政策解读,明

2023-05-26 09:39:49

天天快消息!杭州热电涨停“10天9板” 发布公告称无应披未披事项

天天快消息!杭州热电涨停“10天9板” 发布公告称无应披未披事项

每经记者黄鑫磊每经编辑梁枭5月25日,杭州热电(SH605011,股价37 41元,市值149 68亿元)再度涨停,实现 "

2023-05-26 09:35:27

全球看点:债务违约倒计时,美国财政部准备应急计划 债务协议据称初步成形

全球看点:债务违约倒计时,美国财政部准备应急计划 债务协议据称初步成形

时间越来越逼近下月初可能最早的债务违约日,白宫和共和党人加紧债务上限谈判之际,美国财政部在做二手准备

2023-05-26 09:34:21

A股缩量收涨意味着什么?股市缩量上涨一般是啥情况

A股缩量收涨意味着什么?股市缩量上涨一般是啥情况

A股缩量收涨意味着什么?A股缩量收涨通常意味着市场情绪波动较大,投资者较为谨慎,但是也有一些特殊的情况,比如缩量上涨可能...

2023-05-26 09:41:46

资金量与仓位有什么关联?持仓量和成交量有何区别

资金量与仓位有什么关联?持仓量和成交量有何区别

资金量与仓位有什么关联?仓位管理很重要,而且非常重要。这与资金的大小无关,大资金需要它,小资金更需要它。1 资金量与仓...

2023-05-26 09:38:35

证券在停牌期间能否申报?什么情况下停牌

证券在停牌期间能否申报?什么情况下停牌

证券在停牌期间能否申报?1、在临时停牌期间:上交所可以申报股票,但债券匹配成交、可转债不支持申报;深交所可以申报股票、可...

2023-05-26 09:36:06

全天停牌的股票能买吗?一般停牌的股票会涨吗

全天停牌的股票能买吗?一般停牌的股票会涨吗

全天停牌的股票能买吗?全天停牌的股票是不能买的,因为买不进去,全天停牌的股票处于暂时停止交易的模式。复牌前不接受委托,...

2023-05-26 09:34:06

投资的股票重组是利好还是利空?股票停牌是好事吗

投资的股票重组是利好还是利空?股票停牌是好事吗

投资的股票重组是利好还是利空?投资的股票重组对投资者而言可以是好坏兼具。一方面,资产重组可以带来新的发展机遇和空间,提...

2023-05-26 09:30:18

略有缩水!三星Galaxy Z Flip5电池容量曝光-环球短讯

略有缩水!三星Galaxy Z Flip5电池容量曝光-环球短讯

新款手机电池容量缩水4mAh。

2023-05-26 09:24:37

微盟集团(2013.HK)如何凭借大模型AI应用“WAI”激活应用智能?
       当前简讯

微盟集团(2013.HK)如何凭借大模型AI应用“WAI”激活应用智能? 当前简讯

微盟集团给出了一个最新的答案。

2023-05-26 09:08:11

瞄准算力基础设施风口 9只相关主题ETF产品扎堆申报

瞄准算力基础设施风口 9只相关主题ETF产品扎堆申报

看好算力赛道谈及为何在此时布局算力基础设施主题ETF,汇添富基金在接受《证券日报》记者采访时表示:“近

2023-05-26 09:08:18

天天实时:巴龙集团、巴龙建设所持青农商行7885万股股份拍卖,起拍总价超2亿元

天天实时:巴龙集团、巴龙建设所持青农商行7885万股股份拍卖,起拍总价超2亿元

每经记者宋钦章每经编辑陈星5月24日,青农商行(SZ002958,股价2 8元,市值156亿元)公告披露,股东巴龙国

2023-05-26 08:33:33

滚动:湖北银行去年净利润21.56亿元,部分指标低于监管要求

滚动:湖北银行去年净利润21.56亿元,部分指标低于监管要求

每经记者刘嘉魁每经编辑廖丹随着全面注册制的 "开门迎客 ",多家排队银行A股IPO "换道 "注册制审核。其中,

2023-05-26 08:55:57

快讯 | 石药集团:2023年一季度营收80.53亿元;股东应占溢利14.29亿元 全球微头条

快讯 | 石药集团:2023年一季度营收80.53亿元;股东应占溢利14.29亿元 全球微头条

财经网医药讯5月25日,石药集团发布2023年一季报。报告期内,公司业绩收入为80 53亿元,较上年同期增加2 3%

2023-05-26 08:40:40

最新:快讯 | 广生堂:公司撤回定增股票申请获深交所同意

最新:快讯 | 广生堂:公司撤回定增股票申请获深交所同意

财经网医药讯广生堂5月25日公告,公司于当日收到深交所出具的《关于终止对福建广生堂药业股份有限公司申请

2023-05-26 08:44:12

速读:福特将采用特斯拉的充电标准

速读:福特将采用特斯拉的充电标准

财经网汽车5月26日讯,马斯克通过旗下推特空间(TwitterSpaces)与福特汽车CEOJimFarley宣布,双方将在多个

2023-05-26 08:49:04

热门中概股普跌 小鹏汽车跌超6%|全球最资讯

热门中概股普跌 小鹏汽车跌超6%|全球最资讯

财经网汽车5月26日讯,热门中概股普跌,纳斯达克中国金龙指数跌2 18%。小鹏汽车跌超6%,蔚来、微博、哔哩哔

2023-05-26 08:51:06

李想:理想ONE的高压油箱是韩国企业开发的

李想:理想ONE的高压油箱是韩国企业开发的

财经网汽车5月26日讯,理想汽车CEO李想在社交平台上表示, "理想ONE的高压油箱是一个韩国企业开发的,当时

2023-05-26 08:34:34

天天日报丨基金又“滞销”了:新基发行遭遇近8年来最“冷”时刻

天天日报丨基金又“滞销”了:新基发行遭遇近8年来最“冷”时刻

公募基金行业素来有 "好发不好做、好做不好发 "的说法。而在今年市场震荡、风格快速轮动的背景下,基金发行

2023-05-26 08:51:52

天天视点!北交所主题基金业绩回升 新基金密集成立

天天视点!北交所主题基金业绩回升 新基金密集成立

近期,北交所股票活跃度显著提升,单日成交金额连续多个交易日超20亿元,部分北交所主题基金业绩也持续回暖

2023-05-26 08:52:56

马斯克脑机接口公司Neuralink:首次人体临床试验获FDA批准

马斯克脑机接口公司Neuralink:首次人体临床试验获FDA批准

财经网科技5月26日讯,马斯克的脑机接口公司Neuralink当地时间5月25日宣布,已获得美国食品药品监督管理局

2023-05-26 08:47:41

每日头条!方正富邦基金管理有限公司方正富邦均衡精选混合型证券投资基金提前结束募集的公告

每日头条!方正富邦基金管理有限公司方正富邦均衡精选混合型证券投资基金提前结束募集的公告

经中国证监会2022年9月7日证监许可【2022】2059号文注册,方正富邦均衡精选混合型证券投资基金(以下简称“

2023-05-26 08:24:59

环球关注:基金又“滞销”了:新基发行遭遇近8年来最“冷”时刻

环球关注:基金又“滞销”了:新基发行遭遇近8年来最“冷”时刻

每经记者:李蕾    每经编辑:赵云公募基金行业素来有“好发不好做、好做不好发”的说法。而在今年市场

2023-05-26 08:11:09

全球热点!北京今天晴晒在线最高气温31℃ 明天降雨来扰气温下降

全球热点!北京今天晴晒在线最高气温31℃ 明天降雨来扰气温下降

中国天气网讯今天(5月26日),北京晴晒天气在线,最高气温可达31℃。明天又将有降雨造访,此次降雨持续时

2023-05-26 08:03:08

淡季价格坚挺3000元大关,贵州茅台如何为市场降温? 天天热消息

淡季价格坚挺3000元大关,贵州茅台如何为市场降温? 天天热消息

在春夏交际之时,与五月天门票同样难抢且高价的,还有终端市场一瓶难求的53度飞天茅台。5月25日,北京商报

2023-05-26 07:34:00

家装服务消费者实际感受低于预期

家装服务消费者实际感受低于预期

本报讯(记者孙蔚)贝壳研究院美好生活研究中心近日发布的《2023家装消费品质报告》(以下简称报告)显示,

2023-05-26 07:37:04