假脸检测：Exploring Decision-based Black-box Attacks on Face Forgery Detection

论文作者：Zhaoyu Chen,Bo Li,Kaixun Jiang,Shuang Wu,Shouhong Ding,Wenqiang Zhang

作者单位：Fudan University;Yiwu Research Institute of Fudan University

论文链接：http://arxiv.org/abs/2310.12017v1

内容简介：

1）方向：假脸检测

2）应用：电子支付和身份验证等智能系统

3）背景：面部伪造生成技术引发了公众对安全和隐私的关注，许多智能系统依赖于面部伪造检测来进行电子支付和身份验证。然而，最近的研究表明，面部伪造检测器对于对抗性示例非常脆弱。

4）方法：为了缩小这一差距，作者首先探索了面部伪造检测的决策攻击。然而，直接应用现有的决策攻击存在扰动初始化失败和图像质量低的问题。因此，提出了跨任务扰动来处理初始化失败，并提出了基于频率的决策攻击方法。在频域中添加扰动，然后在空域中限制视觉质量。

5）结果：广泛的实验证明，所提出的方法在FaceForensics++、CelebDF和工业API等数据集上取得了最先进的攻击性能，具有高查询效率和保证的图像质量。此外，通过该方法生成的伪造面部可以通过面部伪造检测和面部识别，暴露了面部伪造检测器的安全问题。