-
仅用一张贴纸就能在AI前隐身 安全监控摄像还安全么?
关键字:实验结果:显著降低警报,安全摄像头还安全吗?
通过实验结果评估 patch 的有效性。过程与训练过程相同(包括随机变换),将结果应用于 Inria 测试集上来进行评估。
换句话说,研究人员提出一个问题:监控系统产生的警报,有多少可以通过使用贴纸来规避?
上表所示为使用不同贴纸的警报触发分析结果。可以清楚地看到,贴纸(OBJ-CLS,OBJ 和 CLS)显著降低了警报数量。
上图所示为在 Inria 测试集中使用不同贴纸的效果对比示例。首先将 YOLOv2 检测器用于没有贴 patch 的图像中(第 1 行),然后是使用随机贴纸(第 2 行)以及生成的最佳贴纸的效果(第 3 行)。在大多数情况下,贴纸能够成功地将人员隐藏在探测器中。如果效果不好,则可能是贴纸没有和人对齐。因为在优化期间,贴纸的中心对齐是仅仅由图像边框确定的。
上图测试了印刷版贴纸在现实世界中的效果。一般情况下,效果还是不错的。由于上文所述的图像训练对齐的原因,将贴纸保持在正确位置似乎是非常重要的。
结果生成的 “补丁”,可以应用在衣服、包或其他物体上,佩戴这种 “补丁” 的人将成为隐形人 —— 使用 AI 检测算法无法检测到。
这种方法也可以用来隐藏某些对象。例如,如果监视系统被设计为检测物体而不是人,那么 “补丁” 也可以将汽车之类的物体隐藏起来。
可以想象,这种伎俩可以让骗子躲避安全摄像头。“我们的工作证明,使用对抗性补丁绕过摄像机监控系统是可能的,” 作者之一 Wiebe Van Ranst。
Van Ranst 说,将这种方法应用于现成的视频监控系统应该不会太难。“目前我们还需要知道使用的是哪种检测器。我们未来想做的是生成一个补丁,可以同时在多个检测器上工作,” 他说。“如果这种方法有效,那么这个补丁也很有可能对监控系统中使用的检测器有效。”
当然,这个 “补丁” 目前并非万无一失,如果它在画面中不是清晰可见的,或者角度发生了变化,AI 系统都能迅速 “发现” 画面中的人类。
不过,这项研究是学术界首次尝试使用 2D 打印技术将人类从检测系统中隐藏起来。之前的工作主要是使用带有特殊框架的眼镜来欺骗人脸识别软件,或使用对抗样本欺骗图像分类系统,例如用一张贴纸就能令 AI 将香蕉误认为是烤面包机,用几张贴纸就能将自动驾驶系统 “骗” 进反车道。
论文地址:
https://arxiv.org/pdf/1904.08653.pdf
开源地址:
https://gitlab.com/EAVISE/adversarial-yolo
- 原标题:一张贴纸欺骗AI,对抗性补丁让人类隐身,监控摄像危险了!
- 责任编辑:李嘉
- 最后更新: 2019-04-24 18:15:17
-
人类首次检测到火星疑似地震
2019-04-24 17:47 航空航天 -
“孙悟空”大战“阿丽塔”,联想Z6 Pro和小米9你选谁?
2019-04-24 17:20 手机 -
厦门大学成功发射一枚带翼回收火箭
2019-04-24 15:51 航空航天 -
“吉林一号”今年新增20颗卫星 将首次海上发射
2019-04-24 15:48 航空航天 -
中国电信率先实现首个5G SA语音通话
2019-04-24 14:28 5G -
SK海力士新增动产抵押信息 抵押金额高达35亿美元
2019-04-24 14:25 -
英国将允许华为“有限”参与5G网络建设
2019-04-24 10:46 -
为了京东,刘强东应该辞去CEO
2019-04-24 09:49 互联网大佬 -
联想Z6 Pro发布,常程:手机业务对谁来说都是持久战
2019-04-24 02:00 手机 -
中国空间站公开征集科学实验和技术试验项目
2019-04-23 17:45 航空航天 -
中国联通5G国际合作联盟:美日德法英等8国企业加入
2019-04-23 16:13 5G -
进军韩国!华为下月将在首尔开设5G服务中心
2019-04-23 13:17 -
氢燃料电池“中国芯”研发获得突破
2019-04-23 09:45 中国精造 -
华为推出“世界首款”5G车载模组
2019-04-23 09:18 -
三星:Galaxy Fold将推迟上市做进一步改进
2019-04-23 08:40 -
格芯宣布出售纽约州300mm晶圆厂,安森美4.3亿美元接盘
2019-04-23 08:12 -
华为P30系列台湾开卖,引3500人排队抢购创纪录
2019-04-22 22:24 华为 -
腾讯:登录新游戏基础准入年龄从13周岁提升至16周岁
2019-04-22 20:27 -
首款全国产固态硬盘控制芯片发布:读写速度500MB/s
2019-04-22 16:43 -
华为将为非洲国家杯推出首个5G手机网络
2019-04-22 15:52
相关推荐 -
布林肯来华谈的怎么样?是否不虚此行? 评论 206“看看,这就是美国的警察” 评论 397习近平会见布林肯:中美应彼此成就,而不是互相伤害 评论 141“宁愿关闭在美业务也不卖” 评论 398王毅见布林肯,对美方提出三个“不要” 评论 264最新闻 Hot