量子环全规约:分布式学习中的通信与隐私优势
机器学习模型已扩展至前所未有的规模,这使得跨分布式设备训练成为该领域的事实标准。在该工作中,研究人员探索了量子通信如何使分布式训练在经典和量子学习模型中同时实现更高的通信效率和信息论意义下的隐私保护。环状全归约(Ring all-reduce)是大规模分布式训练的基础通信原语。该团队提出了一种量子版本,通过预共享纠缠和超密编码,将每链路在线通信量减少了一个可证明的最优因子2,且无需改变学习模型或梯度计算方式。除了带宽优势外,该原语还能提供任何经典协议在信息论意义上无法实现的隐私保证:通过经过验证的纠缠,以2倍GHZ副本的开销实现可组合的ε-安全聚合。该混合量子-经典通信架构在大规模分布式训练中同时实现了通信和安全优势,无论学习过程本身是量子还是经典。最后,研究人员刻画了在带宽受限的服务器到客户端通信场景下(即环状全归约完成后,无法向外部客户端广播完整梯度时)梯度冲突检测中的量子优势。该问题的两个变体呈现出不同的分离结果。对于基于间隔的对齐测试(\textsc{GapIP}_τ),量子优势在间隔参数上呈二次关系:\widetilde{O}(τ^{-1}\log P) 量子比特对比 \widetilde{O}(\min(τ^{-2},P)) 比特。对于针对私有参数匹配的符号一致性审计(\textsc{TieAudit}_ε),该优势在通信复杂度上表现为指数级分离:需要 Ω(\sqrt{P}) 比特,而 O(ε^{-2}\log P) 量子比特就足够了。
量科快讯
2 天前
2 天前

