量子科技中心_量科网

随着在包含潜在敏感数据的大型数据集上训练的机器学习（ML）模型的出现，人工智能安全中的一个主要问题是如何使学习过程对训练数据具有隐私性。与经典机器学习类似，量子机器学习（QML）模型同样存在隐私漏洞。差分隐私（DP）是在敏感数据上训练ML模型的标准工具，但其在QML中的影响仍未被充分理解。在该工作中，研究了混合变分QML模型中的隐私训练，采用经典私有DP-SGD优化器，应用于输入输出均为经典的管线。分析了DP-SGD中梯度裁剪与校准噪声添加之间的相互作用，及其对存在噪声和无噪声量子模型的优化与准确性的影响。首先解释了为什么量子噪声无法为DP-SGD中的校准噪声提供令人满意的替代方案以确保隐私；然后展示了对于一类广泛的量子模型，梯度范数的确定性界限如何转化为对DP-SGD引入的有害裁剪偏差的显式控制；最后，在固定裁剪阈值和隐私预算下制定了一个数值比较协议，并在合成任务和图像分类任务上对等效的量子与经典模型进行了评估。研究结果表明，在由经典DP-SGD机制确保正式隐私保证的私有训练场景中，量子模型能够保持更高的准确性。