基于标签的无数据的成员推理攻击
网络安全与数据治理 2023年第5期
杨盼盼，张信明
（中国科学技术大学计算机科学与技术学院，安徽合肥230026）
摘要： 成员推理攻击根据模型的预测结果推断特定记录是否为模型的训练数据成员，在隐私保护等领域具有重要应用意义。现有的基于标签的无数据的成员推理攻击方法主要利用对抗样本技术，存在查询和计算成本较高的问题。对此提出一种新的成员推理攻击方法，该方法利用影子模型来减少多次攻击的查询代价，并提出数据筛选与优化策略以提高攻击模型的性能。实验在两个常见的图像数据集上进行，结果表明该方法同时具有较高的攻击成功率和较低的查询成本。
中图分类号：TP181
文献标识码：A
DOI:10.19358/j.issn.2097-1788.2023.05.008
引用格式：杨盼盼，张信明.基于标签的无数据的成员推理攻击［J］.网络安全与数据治理，2023，42（5）：44-49.
文献标识码：A
DOI:10.19358/j.issn.2097-1788.2023.05.008
引用格式：杨盼盼，张信明.基于标签的无数据的成员推理攻击［J］.网络安全与数据治理，2023，42（5）：44-49.
Label-based data-free membership inference attack
Yang Panpan，Zhang Xinming
(School of Computer Science and Technology, University of Science and Technology of China, Hefei 230026, China)
Abstract： Membership inference attack infers whether a specific record is a training data member of a model based on the model′s prediction results, which has important application significance in the field of privacy protection. Existing labelbased datafree membership inference attack methods mainly use adversarial sample technology, which has a high query and computation cost. This paper proposed a new membership inference attack method that uses a shadow model to reduce the query cost of multiple attacks, and proposed data filtering and optimization strategies to improve the performance of the attack model. Experiments were conducted on two commonly used image datasets, and the results showed that the proposed method has both a high attack success rate and a low query cost.
Key words : membership inference attack; datafree; labelbased
0 引言
目前很多机器学习模型以服务的形式对外提供查询接口，返回模型的预测结果。这些模型很容易受到成员推理攻击。成员推理攻击是一种针对机器学习模型的隐私攻击，主要目的是根据模型的预测结果，推断特定记录是否为模型的训练数据成员。成员推理攻击在实际应用中具有重要的意义，例如在隐私保护领域中，攻击者可能通过成员推理攻击来揭示个人数据是否包含在某个模型的训练数据中。
本文详细内容请下载：https://www.chinaaet.com/resource/share/2000005333
作者信息：
杨盼盼，张信明
（中国科学技术大学计算机科学与技术学院，安徽合肥230026）
此内容为AET网站原创，未经授权禁止转载。