新网Logo
首页>主机-资讯>

这个对抗算法让人脸识别算法失灵,还能抵抗微信微博照片压缩

登录 注册

这个对抗算法让人脸识别算法失灵,还能抵抗微信微博照片压缩

  • 来源:网络
  • 更新日期:2020-08-19

摘要:本文经AI新媒体量子位(公众号ID:QbitAI)授权转载,转载请联系出处。 上回书说到,现在,对抗攻击的理念已经被应用到隐私保护领域: 通过给照片添加肉眼看不出来的对抗性噪声,来蒙蔽人

本文经AI新媒体量子位(公众号ID:QbitAI)授权转载,转载请联系出处。

上回书说到,现在,对抗攻击的理念已经被应用到隐私保护领域:

通过给照片添加肉眼看不出来的对抗性噪声,来蒙蔽人脸识别AI,达到保护隐私的效果。

不过,就有好学的同学提出了这样的疑问,各种App基本都会对图片重新进行压缩,那这种照片「隐身衣」不就会因此失效吗?

最近,武汉大学国家网络安全学院就和Adobe公司合作,针对这个问题进行了研究, 并提出了一种适用于任意压缩方式的抗压缩对抗性图像生成方案。

也就是说,这是一身具有抗压缩能力的照片「隐身衣」。

即使经过处理的照片被社交平台中各种压缩算法改造一番,也依然能保持对抗性。比如,在微博上就可以达到90%以上的成功率。

抗压缩的照片「隐身衣」

一般来说,添加了微小扰动的对抗性实例,都会受到图像压缩方法的影响。

尤其是现在不同社交平台采用的压缩方法都是黑盒算法,压缩方法的变化也给对抗性实例的「抗压性」带来了不小的挑战。

论文一作王志波教授就指出:

在压缩算法未知或不可微的情况下,生成抗压缩的对抗性图像具有很大挑战性。

为了解决这样的问题,这项研究提出了抗压缩对抗框架ComReAdv。

具体而言,方案分为三个步骤。

步骤一:构建训练数据集

通过上传/下载的方式,获取大量原始图像和对应的压缩图像,构建训练数据集。

步骤二:压缩近似

利用原始图像-压缩图像对构成的数据集进行监督学习。

研究人员设计了一个基于编码-解码的压缩近似模型,称为ComModel。该模型被用于学习如何像黑盒压缩算法一样转换图像,以达到近似压缩的目的。

其中,编码器从原始图像中提取多尺度特征,如内在纹理和空间内容特征。

对应的,解码器对压缩后的对应图像进行由粗到细的重构,以模仿真实压缩图像的压缩效果。

通过最小化重构图像和真实压缩图像之间的平均绝对误差(MAE),训练后的ComModel可作为社交平台未知压缩算法的可微近似形式。

步骤三:抗压缩对抗性图像生成

构建优化目标,将ComModel融入到对抗性图像的优化过程中,并使用基于动量的迭代方法(MI-FGSM)进行优化,最终使得生成的对抗性图像具有较好的抗压缩能力。

研究人员表示,该方案不需要任何压缩算法的细节,仅根据适量的原图和压缩图的数据集,便能训练得到未知压缩算法的近似形式,并进一步生成相应的抗压缩对抗性图像,因此,该方案能应用于所有社交平台保护用户隐私。

实验结果

研究团队进行了本地仿真测试(JPEG、JPEG2000、WEBP)和真实的社交平台(Facebook、微博、豆瓣)测试。

本地仿真测试的结果显示,ComReAdv这一方法在「抗压缩」方面超越了SOTA方法,并且,可以有效抵抗不同的压缩方法,具有可扩展性。

而真实社交平台测试的结果也表明,该方法能显著提高对抗性图像的抗压缩能力。

在被不同的压缩方法压缩后,误导Resnet50分类模型的成功率达到了最先进的水平,在微博上可以达到90%以上的成功率。

关于作者

论文一作王志波,是武汉大学国家网络安全学院教授、博士生导师。

王志波教授本科毕业于浙江大学信息学院自动化专业,2014年获美国田纳西大学计算机工程博士的学位。

目前的研究方向包括物联网、移动感知与计算、大数据、网络安全与隐私保护、人工智能安全。

对于这项研究,王志波教授表示:

我们认为这项技术可以被所有社交网络用户采用,来防止分享图像被非法滥用、识别。当然,模型的抗压缩能力仍需进一步提高,我们团队接下来会对此进行更深入的研究。

新网箭头云服务器