• Complex
  • Title
  • Keyword
  • Abstract
  • Scholars
  • Journal
  • ISSN
  • Conference
成果搜索

author:

陈少权 (陈少权.) [1] | 蔡剑平 (蔡剑平.) [2] | 孙岚 (孙岚.) [3]

Indexed by:

PKU CSCD

Abstract:

现有的生成对抗网络(GAN)和差分隐私相结合的方法大多采用梯度扰动的方法实现隐私保护,即在优化过程中利用梯度裁剪技术来约束优化器对单个数据的敏感性,并对裁剪后的梯度添加随机噪声以达到保护模型的目的.然而大多数方法在训练时裁剪阈值固定,而阈值过大或过小均会影响模型的性能.针对该问题,提出动态梯度阈值裁剪的DGC_DPGAN(Dynamic Gradient Clipping Differential Privacy Generative Adversarial Network)算法以兼顾隐私保护和模型的性能.该算法结合预训练技术,在优化过程中先求取每批次隐私数据的梯度F-范数均值作为动态梯度裁剪阈值,再对梯度进行扰动.考虑不同的裁剪顺序,提出先裁剪再加噪的CLIP_DGC_DPGAN(Clip Dynamic Gradient Clipping Differential Privacy Generative Adversarial Network)算法和先加噪再裁剪的DGC_DPGAN算法,并采用Rényi Accountant求取隐私损失.实验结果表明,在相同的隐私预算下,所提出的两种动态梯度裁剪算法与固定梯度阈值裁剪方法相比更优:在Mnist数据集上,所提两种算法在IS(Inception Score)、结构相似性(SSIM)、卷积神经网络(CNN)分类准确率上分别提升了0.32~3.92,0.03~0.27,7%~44%;在Fashion-Mnist数据集上,所提两种算法在IS、SSIM、CNN分类准确率上分别提升了0.40~4.32,0.01~0.44,20%~51%.同时,GAN模型生成图像的可用性更好.

Keyword:

Rényi Accountant 动态梯度阈值裁剪 差分隐私 生成对抗网络

Community:

  • [ 1 ] [蔡剑平]福州大学 计算机与大数据学院,福州 350108
  • [ 2 ] [陈少权]福州大学 计算机与大数据学院,福州 350108
  • [ 3 ] [孙岚]福州大学 计算机与大数据学院,福州 350108

Reprint 's Address:

Email:

Show more details

Related Keywords:

Source :

计算机应用

ISSN: 1001-9081

Year: 2023

Issue: 7

Volume: 43

Page: 2065-2072

Cited Count:

WoS CC Cited Count: 0

SCOPUS Cited Count:

ESI Highly Cited Papers on the List: 0 Unfold All

WanFang Cited Count:

Chinese Cited Count:

30 Days PV: 7

Affiliated Colleges:

Online/Total:45/10016842
Address:FZU Library(No.2 Xuyuan Road, Fuzhou, Fujian, PRC Post Code:350116) Contact Us:0591-22865326
Copyright:FZU Library Technical Support:Beijing Aegean Software Co., Ltd. 闽ICP备05005463号-1