近日，我院2021级博士生杨梦达撰写的论文“Measuring Model Inversion Defences in Edge–Cloud Collaborative Inference Systems”被第36届神经信息处理系统会议 (Neural Information Processing Systems，NeurIPS 2022) 录用（Full Paper)。该研究工作是在我院可信计算团队的王鹃教授（通讯作者），纽约州立大学布法罗分校Hongxin Hu教授和重庆大学任骜教授联合指导下完成，硕士生李子昂、徐枭洋和易文哲参与了该成果的研究工作。

NeurIPS，全称神经信息处理系统大会，是一个关于机器学习和计算神经科学的国际会议。该会议固定在每年的12月举行,由NIPS基金会主办。NIPS是机器学习领域的顶级会议。在中国计算机学会的国际学术会议排名中，NIPS为人工智能领域的A类会议。

边云协作推理系统可以加速边云场景下的深度学习应用预测任务，本地设备和云服务器共同运行一个复杂的深度学习模型。然而，这些边云协作推理系统容易受到模型反演攻击的严重威胁，即恶意的云服务提供商能够恢复边缘侧用户的私有数据。为了抵御该类攻击，研究人员进行了大量研究并推出了一系列防御措施，但现有工作对这些防御机制的鲁棒性知之甚少。该论文系统地度量这些最先进的防御对策抵御模型反演攻击的稳健性。该论文展示了这些防御在隐私和实用性方面的权衡，并提出了一种新的方法，即敏感特征蒸馏，以恢复受保护的特征表示中的敏感信息。该论文的实验表明，敏感特征蒸馏能够突破模型拆分情况下的防御机制，证明了现有的防御机制作为一种保护隐私的技术对模型反演攻击的不足。该论文希望其结果能够鼓励研究人员为边缘云协作推理系统寻求更强大的防御机制来应对模型反演攻击。