基于大模型的恶意内容解析与检测算法研究

网络空间安全学院

Research on LLM-based malicious content resolution and detection algorithm

本项目旨在研究并开发基于大型语言模型（LLM）的恶意内容解析与检测算法。项目由网络空间安全学院的郝杰老师指导。团队成员具备扎实的信息安全和编程背景。研究将通过构建数据集、开发自动化算法，以及设计多层防御体系，提高LLM对恶意代码的检测与防范能力，同时探索LLM的安全性和健壮性，以应对网络安全挑战。项目主要工作为构建针对LLM的自动化越狱攻击，和以LLM为基础的恶意代码及对抗性提示词检测器。