-
多地现变脸诈骗案:合成一个视频最低2元,人工审核难辨真假
最后更新: 2022-04-14 10:36:43一段视频、一段语音未必是真人拍摄或者录制。在你不知道的手机App后台、支付界面、门禁闸机,或许有人正在盗刷你的脸……去年以来,多地发生“变脸”诈骗案。
“新华视点”记者调查发现,随着深度合成技术迅猛发展、落地场景激增,一些不法分子趁机牟利。音频、视频等合成技术滥用,对人脸、声纹、指纹等个人敏感信息保护形成挑战。
合成动态视频一个2至10元,竟能注册手机卡、支付账户
近日,陈先生来到浙江省温州市公安局瓯海分局仙岩派出所报案,称自己被“好友”骗了近五万元。经过警方核实,骗子用了AI换脸技术,利用陈先生好友阿诚社交平台上先前发布的视频,截取了面部视频画面并进行了“换脸”,从而对陈先生进行了诈骗。
2021年4月,安徽省合肥市警方在公安部“净网2021”专项行动中打掉一个犯罪团伙,该团伙利用人工智能技术伪造他人人脸动态视频,为黑灰产业链提供注册手机卡等技术支撑。
在警方抓捕现场,几名犯罪嫌疑人正用电脑将一张张静态照片制作为人脸动态视频。模拟制作出来的动态人物不仅能做点头、摇头等动作,还可完成眨眼、张嘴、皱眉等丰富表情,效果极为逼真。
在嫌疑人的电脑里,警方发现了十几个G的公民人脸数据,人脸照片和身份证照片分门别类存放在一个个文件夹里。“身份证正反面照片、手持身份证照片、自拍照等,被称为一套。”民警介绍,成套照片被称为“料”,出售照片的人被称为“料商”,这些“料”在网上已转手多次,而“料”的主人却毫不知情。
犯罪嫌疑人马某交代,由于制作简单,一个视频价格仅为2至10元,“客户”往往是成百上千购买,牟利空间巨大。
近年来,类似案件在浙江、江苏、河南等多地发生。浙江衢州中级人民法院的一份刑事裁定书披露:张某、余某等人运用技术手段骗过支付宝人脸识别认证,并使用公民个人信息注册支付宝账户,非法获利数万元。
这些案件的作案流程颇为雷同:不法分子非法获取他人照片或有偿收购他人声音等“物料”,仅需少量音视频样本数据,便可合成媲美真人的伪造音视频,用来实施精准诈骗,侵害他人人身和财产安全,或销售、恶意传播技术换脸不雅视频等,造成肖像权人名誉受损。
网络“叫卖”合成软件教程,风险背后存技术漏洞、治理短板
据合肥市公安局包河分局网安大队民警王祥瑞介绍,前述案件中8名犯罪嫌疑人多为社会闲散人员,有的连高中都没有读完。他们按照网购教程下载软件,花几个月便“自学成才”。
记者在网上联系到一位售卖相关教程的卖家。卖家介绍,全套软件及教程售价有400元、800元两档,800元的为高阶版本,“过人脸成功率超高”。记者在演示视频中看到,照片上传至软件后,标注出五官位置,调整脚本参数,一张脸便动了起来。“五官参数随教程送上,照抄即可。”据介绍,这些伪造视频不仅通过率高,人工审核都难辨真假。
“目前公众对照片等静态信息易被篡改已有所警惕,但对视频、声音等动态信息内容仍持有较高信任度。”清华大学人工智能研究院基础理论研究中心主任朱军说,深度合成技术飞速演进,让“眼见不再为实”,破解身份核验的难度会越来越低、耗时将越来越短。
专家担心,尽管针对深度合成技术的识别技术不断迭代、检测手段持续增强,但依然没能跑赢“伪造”技术升级的速度。浙江大学网络空间安全学院院长任奎说,随着合成技术应用门槛的进一步降低,合成内容已模糊真实与伪造的边界。
北京智源人工智能研究院安全创新中心执行主任田天认为,新型伪造方法层出不穷,网络传播环境日趋复杂,检测算法存在漏洞缺陷等,反深伪检测难度越来越大。
法律规定相对滞后,也给不法分子留下可乘之机。中伦律师事务所合伙人陈际红说,目前法律规定,禁止利用信息技术手段伪造等方式侵害他人的肖像权,但技术如何使用算合理使用,哪些情形下应禁止使用等,没有具体规定;收集或收购个人声纹、照片,使用人脸、指纹、DNA、虹膜等个人生物信息等行为,在哪些范围内构成犯罪、将面临怎样的惩罚,需要司法裁判进一步给出明确指引。
规制合成技术滥用,别再让公众为“脸面”担忧
保护人脸、指纹、声纹等敏感信息,不再担忧信息“裸奔”损害个人隐私、财产、名誉等,是公众的共同期待。
我国首个国家层面的科技伦理治理指导性文件《关于加强科技伦理治理的意见》近日印发,凸显技术伦理治理的重要性紧迫性。在今年的最高法工作报告中,包括人脸安全在内的个人信息安全等多次被提及。
陈际红表示,打击“变脸”诈骗犯罪,应从技术的合法使用边界、技术的安全评估程序、滥用技术的法律规制等方面予以规范,提高技术滥用的违法成本。
中国工程院院士、信息技术专家邬贺铨提出,针对深度合成技术滥用现象,应以技术规制技术,利用技术创新、技术对抗等方式,提升和迭代检测技术的能力。
技术规制之外,针对技术滥用暴露的风险治理应当体系化、完善化。“要构建数据集质量规范、根据应用场景对相关技术进行风险分级分类管理,明确设计开发单位、运维单位、数据提供方的责任。”国家工业信息安全发展研究中心副总工程师邱惠君说。
专家提醒,针对花样翻新的“变脸”诈骗,公众要提高防范意识,不轻易提供人脸、指纹等个人生物信息给他人,不过度公开或分享动图、视频等;网络转账前要通过电话、视频等多种沟通渠道核验对方身份。一旦发现风险,及时报警求助。
(记者 张漫子 张超 陈诺)
标签 网络诈骗- 原标题:多地现“变脸”诈骗案:一段段逼真的视频竟是伪造的……
- 责任编辑: 王濛 
-
封控小区为何还出现感染者?上海回应
2022-04-14 10:34 抗疫进行时 -
上海:昨天出院737例、解除集中隔离15406例
2022-04-14 09:50 抗疫进行时 -
3万一趟也不愿跑上海,跨省物流有多难?
2022-04-14 09:24 抗疫进行时 -
31省份新增本土“2999+26318”
2022-04-14 09:14 抗疫进行时 -
湖南男子从上海骑共享单车到安徽,目前已被隔离
2022-04-14 09:10 抗疫进行时 -
美国领馆“上海撤离”为哪般?
2022-04-14 09:00 抗疫进行时 -
上海新增本土“2573+25146”
2022-04-14 08:31 抗疫进行时 -
上海警方:虹口区卫健委钱文雄夫人自杀等传闻系谣言
2022-04-14 07:24 网络谣言 -
一兰州救援队驰援上海,将在黄浦区进行预防性消毒
2022-04-14 07:12 抗疫进行时 -
上海闵行:部分小区今日由“防范区”调整为“封控区”
2022-04-14 07:01 抗疫进行时 -
上海徐汇:与居委干部通话的永康路老人已被转运
2022-04-14 06:59 抗疫进行时 -
第五次!江苏4358名医护凌晨赴沪
2022-04-14 06:57 抗疫进行时 -
“台湾总统特使”?中方不承认!
2022-04-13 22:31 -
孙春兰:以更坚决更果断的措施,在与病毒赛跑中赢得主动!
2022-04-13 22:01 抗疫进行时 -
习近平:加快建设具有世界影响力的中国特色自由贸易港
2022-04-13 21:44 -
新冠病毒顺风向传播,致“阳性楼串”?专家回应
2022-04-13 21:43 抗疫进行时 -
国常会:适时运用降准等货币政策工具
2022-04-13 21:42 中国经济 -
听三位上海“团长”的自述
2022-04-13 20:57 抗疫进行时 -
厦门试点疫情防控措施优化:部分入境人员集中隔离时间缩短
2022-04-13 20:56 抗疫进行时
相关推荐 -
安理会表决:俄方否决,中方反击美方指责 评论 27“6年增加两倍”,美军高官又炒:中国速度“惊人” 评论 109NASA局长抹黑中国登月,连专业常识都不顾了 评论 399“中国报价太香,加税50%都吓不跑美国买家” 评论 291最新闻 Hot
-
“6年增加两倍”,美军高官又炒:中国速度“惊人”
-
“这泼天的富贵暂时轮不上美国”
-
“价格战太激烈,大众在华目标就是保住份额”
-
朔尔茨称“普京没资格”,俄方反怼
-
“以色列是种族隔离国家!”纽约爆发抗议,数百犹太人被捕
-
“宁德时代被美国施压还赚了,韩企投资美国怎么反而要亏?”
-
俄国防部副部长涉严重贪腐被拘
-
NASA局长抹黑中国登月,连专业常识都不顾了
-
特朗普迎接:我喜欢这人
-
欧洲急着减排,却发现实现目标得依赖中国
-
“中国报价太香,加税50%都吓不跑美国买家”
-
美太平洋舰队司令来华参会:2019年后来华最高级别军官
-
中国进口贴标“美国制造”,这家高端美企要被罚惨了
-
挺巴抗议席卷全美高校,大批学生遭逮捕
-
这是他访华的“筹码”?美官员忙否认
-
伊朗总统警告以色列:若再来犯,让你“寸草不生”
-