大模型隐私推理平台
国际学院
A large model privacy inference platform
随着 ChatGPT 等大模型服务的兴起,用户在享受其便利的同时,隐私泄露问题也日益凸显。本项目旨在设计大模型的隐私推理平台,以解决用户使用大模型时面临的隐私问题。
项目主要内容包括:针对 Transformer、GPT、Mamba 等大模型架构,分析其在推理过程中隐私问题产生的原因,找出当前尚未解决的难题;设计更高效的安全多方计算协议,提升大模型推理速度,降低开销,并与主流协议对比持续改进;基于现有底层框架如 EzPC 等,设计通用隐私推理平台,且与主流隐私计算平台进行系统级对比分析与改进。
项目目标明确,即打造一个能有效保护用户隐私的大模型隐私推理平台,同时在推理计算时间和通信开销方面具备优势。成果形式为发表学术论文和申请发明专利,以及研制出大模型的隐私推理平台,为用户隐私保护提供有力保障。