基于联邦学习的分布式自然语言处理推荐算法
人工智能学院
Distributed Natural Language Processing Recommendation Algorithm based on Federated Learning
联邦学习被应用于解决实际场景中“数据孤岛”问题,能在确保用户隐私前提下实现机器学习模型训练和推理,本课题将研究联邦学习与自然语言处理相关问题。一方面,本课题将研究大型自然语言处理模型的联邦化即分布式处理。将基于自然语言处理和图神经网络的内容推荐算法进行联邦化处理,在保护用户隐私的前提下,实现精准和个性化的文献内容推荐。另一方面,本课题将进一步研究联邦学习框架下的模型压缩方法。基于符号的梯度下降方法,因其可在提升通信和存储效率的同时实现一定程度的隐私保护而受到学界和业界关注,但其精度还有待提升,本课题将利用现有先进技术(如差分隐私、机器遗忘学习(Machine Unlearning)等)对其进行改进。