课题五 提出了一个安全协作学习系统
发布时间:2019-07-25   浏览次数:33

海量多样的数据对于训练一个通用的深度学习模型至关重要,而用于模型训练的数据采集非常困难,特别是对于敏感数据(如医学数据和人脸图像)的训练。新兴的协作学习很好地解决了这个问题,它允许参与者通过上传参数变化的子集来训练一个全局模型,而不是将整个训练数据上传到一个集中的服务器。然而,这种隐私保护方法只有在涉及的实体是可信的(即,他们诚实地遵守协议)的情况下,才能有效地实现隐私保护。否则,该方法仍可能泄漏私有数据。在本研究中,我们提出了一个名为SecCL的安全协作学习系统,它利用一个基于区块链的可信公告板(TBB),通过确保培训过程中真实和正确的消息交互,在协作学习中实现强大的隐私保护。此外,我们还为SecCL开发了一种新的智能契约,使参与者能够达成共识来约束恶意行为。因此,SecCL确保服务器不能欺骗参与者,并且参与者在培训过程中表现良好。实验结果表明,SecCL能够在保证全局模型准确性的同时抑制参与者和参数服务器的恶意行为。

 

 

 

 

本研究由清华大学在本项目的支持下完成,发表在CCF推荐A类期刊IEEE TPDS上,原文可由链接https://doi.org/10.1109/TPDS.2019.2930992查看。